OpenAI bu hafta, artan güvenlik endişeleri nedeniyle en gelişmiş dahili modellerinin geliştirilmesine ara verdiğini duyurdu. Şirketin küresel ilişkiler sorumlusu Chris Lehane, "Yapay zekanın yetenekleri açısından farklı bir döneme, farklı bir ana giriyoruz." dedi.
İngiltere merkezli yayın kuruluşu The Guardian'a konuşan Lehane, Temmuz ayı sonlarında, eğitim aşamasındaki son teknoloji yapay zekâ ajanlarının beklenmedik bir şekilde güvenli olduğu varsayılan bir "kum havuzu" ortamından kaçarak internete eriştiğini ve başka bir şirket olan Hugging Face'i hacklediğini belirtti. OpenAI ayrıca , Astra adlı başka bir yeni modelin de "kritik siber güvenlik yeteneğine" sahip olabileceğini göz ardı edemeyeceğini söyledi .
Kendi tanımına göre, bu, "tek taraflı aktörlerden kaynaklanan, askeri veya endüstriyel sistemleri ya da OpenAI altyapısını hackleyerek felakete yol açabilecek" siber saldırılar başlatmak anlamına gelebilir.
OpenAI Salı günü yaptığı açıklamada, yeni güvenlik önlemlerini uygulamak için bazı ileri düzey yapay zeka modellerinin eğitimini durdurduğunu duyurdu. Yeni güvenlik önlemleri alındıktan sonra eğitimin ne zaman yeniden başlayacağı belirsizliğini koruyor.
Güvenlik ve uyum çalışmalarından sorumlu Mia Glaese, "Her şeyin normale dönmesinden çok uzağız" dedi. CEO Sam Altman ise, "Yapay zeka güvenliğini doğru bir şekilde sağlamak, herhangi bir şirketin ivmesinden daha önemlidir" şeklinde konuştu.
Lehane, insanların saldırı tehdidinden "hoşlanmayacağını" kabul etti ve riski, çoğu Çin'de geliştirilen ve OpenAI gibi şirketler tarafından geliştirilen öncü kapalı modellerden sadece birkaç ay geride olan açık kaynaklı modellerden kaynaklandığını belirterek, “İnsanlar bu açık kaynaklı modellere erişebilecek ve size karşı sürekli, ısrarlı saldırılar düzenleyebilecekler; bu saldırıları savuşturmak ve kendinizi savunmak için gerçekten üstün modellere ihtiyacınız olacak. Bu durum halkın kendini iyi hissetmesini sağlamayacak. Bu, gittiğimiz yerin gerçeği.” dedi.
Siber saldırı tehdidi artıyor
İşletmeleri, altyapıyı ve genel halkı felç edebilecek siber saldırı tehdidi, yapay zekâ ile ilgili acil endişeler listesinin en üst sıralarına hızla yükseldi. Bu hafta, İngiliz hükümetinin Ulusal Siber Güvenlik Merkezi, yapay zekâ ajanlarının kullanımına ilişkin ihtiyatlı olunması çağrısında bulunarak, güvenlik kontrollerinin atlatılabileceği ve bir yapay zekâ ajanının "sağduyuya sahip olmadığı" konusunda uyardı. Kuruluşlara özerkliklerini sınırlamalarını tavsiye etti: "Her zaman 'fişi çekebilmeli' ve otonom yapay zekâ ajanı faaliyetini anında durdurabilmelisiniz."
Lehane, ABD hükümetine, ileri teknoloji yapay zekâ güvenliği için kurallar oluşturacak bir yasa çıkarması yönündeki çağrılarını yineledi ve en gelişmiş ve henüz piyasaya sürülmemiş yapay zekâ modellerinin siber saldırıları savunmadan daha hızlı geliştiriyor gibi görünmesinin, "bu ülkenin zorunlu güvenlik standartları oluşturan ulusal bir yasa çıkarmasının kesinlikle şart olduğunu düşünmemin nedenlerinden biri olduğunu ve bu süreçte duraklama unsurunun doğal ve içsel bir unsur olacağını" söyledi.
"Güvenlik düzeyini kanıtlayıp garanti altına almadan modelleri piyasaya süremez veya kullanamazsınız," diye konuşan Lehane, "Bence ABD'de ulusal bir versiyona sahip olmalısınız ve oradan uluslararası bir versiyon oluşturabilirsiniz, çünkü sonuçta burada bir tür uluslararası yapıya ihtiyaç duyacağınızı düşünüyorum." dedi.
OpenAI, 850 milyar doların üzerinde bir değerlemeyle borsaya kote olmak için başvuruda bulundu ve bu işlemin muhtemelen bu yıl veya önümüzdeki yıl gerçekleşmesi bekleniyor. Şirket, Claude chatbot'unun üreticisi olan rakibi Anthropic ile giderek daha yetenekli yapay zeka modelleri geliştirmek için bir yarış içinde. Anthropic'in de önümüzdeki yıl içinde devasa bir değerlemeyle ABD borsasında işlem görmeye başlaması bekleniyor.
Donald Trump yönetiminin, Çin'in ilerlemesinin önünde kalma yarışının yoğunlaştığı bir dönemde, yapay zeka düzenlemelerine yönelik serbest piyasa yaklaşımından vazgeçtiğinin bir işareti olarak, ABD Başkanı Haziran ayında, sınır modelleri ve açık ağırlıklı modeller en ileri seviyeye yaklaştıklarında ön dağıtım testlerini teşvik eden bir başkanlık emri yayınladı.
Sistem gönüllülük esasına dayanacak ve yaklaşım şeffaflık eksikliği nedeniyle eleştiriliyor, ancak gözlemciler bunun daha sert adımların önünü açabileceğini düşünüyor. Google DeepMind Başkanı Demis Hassabis, Finansal Sektör Düzenleme Kurumu'nu (FINRA) örnek alan yeni bir standartlar kuruluşu önerdi; bu fikir Anthropic'in CEO'su Dario Amodei tarafından da destekleniyor.
Lehane, “Yasaların yürürlüğe girebileceği dönem, muhtemelen yeni bir Kongre'nin göreve gelmesiyle birlikte gelecek yılın ilk yarısı olabilir,” dedi. “Bence siyasi partileri aşan, giderek büyüyen bir siyasi uzlaşma var.”
Çin Devlet Başkanı Xi Jinping'in 24 Eylül'de Washington'da Trump ile görüşmesi planlandığı için, Çin ile bir güvenlik anlaşmasının da önemli olduğu düşünülüyor.
Lehane, "Bu teknolojinin ne kadar önemli olduğu, ne kadar hızlı geliştiği ve yetenekleri göz önüne alındığında, bu görüşmeler ne kadar erken başlarsa, o kadar çabuk kollarımızı sıvayıp zorlu ve meşakkatli işe koyulabilir ve bir çözüm bulmaya çalışabiliriz," dedi.
