OpenAI, yapay zekâ ajanlarının kontrolden çıktığına dair haberlerin artması üzerine en yeni yapay zekâ modellerinin eğitimini durdurduğunu açıkladı.
Geliştirmeyi durdurma kararı, şirketin cuma günü yaptığı ve yaz aylarında OpenAI ajanlarının federal hükümet web sitelerinde arama yaparken, bilgi toplama ve dağıtma süreçlerinde kendilerinden istenenin ötesinde beklenmedik şekillerde davrandığı birkaç olayı incelediğini açıklamasından sadece birkaç saat sonra geldi .
Öte yandan, yapay zeka değerlendirme şirketi Transluce, OpenAI'den geldiği anlaşılan ajanların ABD Eğitim Bakanlığı'na ait bir internet sitesine sızmaya çalıştığını ancak başarısız olduklarını belirtti; OpenAI ise bu bilgiyi henüz doğrulamadı.
OpenAI yaptığı açıklamada, "ek güvenlik önlemlerini aldığımızdan emin olduğumuzda" eğitimlere yeniden başlayacağını belirterek, yapay zekâ geliştikçe ve başka sorunlar ortaya çıktıkça tekrar "duraklatmak" zorunda kalacağını da sözlerine ekledi.
Geçtiğimiz hafta Avustralya Başbakanı Anthony Albanese, OpenAI'ye ait bir ajanın hükümetin ulusal sağlık sistemine sızdığını açıkladı , ancak hassas bilgilerin tehlikeye atılmadığını söyledi.
Yapay zekâ laboratuvarları, ajanların kendi başlarına hareket etmelerini, web sitelerini hacklemelerini ve gizli bilgileri ifşa etmelerini engelleyecek güvenlik önlemleri geliştirebilmeleri için yasa koyuculardan ve teknoloji uzmanlarından geliştirme süreçlerini yavaşlatmaları yönünde baskı görüyor. Hem OpenAI hem de rakibi Anthropic'in yöneticileri de yavaşlama çağrısında bulundu .
OpenAI, modellerinin geliştirilmesini üç ay içinde ikinci kez durdurdu. İlk durdurma, Temmuz ayında yapay zeka girişimi Hugging Face'i hedef alan bir siber saldırının ortaya çıkmasının ardından gerçekleşmişti ; bu olay, sektörün kontrolü kaybettiği endişelerini artırmıştı.
Donald Trump, bu hafta Çin Devlet Başkanı Xi Jinping ile yaptığı görüşmede , yapay zekâ tehlikeleri hakkında bilgi paylaşmayı ve güvenliğini sağlamak için çabaları koordine etmeyi kabul etti. Ancak Trump, yapay zekâ korkularının abartılı olduğuna inanıyor ve daha sonra kendi başına herhangi bir baskı uygulamayı planlamadığını ima etti.
Trump, Beyaz Saray önünde gazetecilere yaptığı açıklamada, "ABD fren yapmayacak. Çin'e karşı büyük bir üstünlüğümüz olduğu için ilerlememizi durdurmak istiyorlar ve bunu böyle sürdüreceğiz" dedi.
Son OpenAI olaylarında gizli bilgilerin ifşa edilmesi söz konusu görünmese de, şirket ilgili federal kurumları uyarmak için yeterince endişe vericiydi.
Eğitim Bakanlığı olayında, OpenAI ajanları hükümet verilerine erişmek için API "geliştirici anahtarları" buldu, ancak sonuçta yalnızca kamuya açık bilgiler toplandı.
Menkul Kıymetler ve Borsa Komisyonu'nu ilgilendiren bir başka olayda ise, yetkililer herkesin serbestçe erişebileceği bilgilere ulaşmış ancak daha sonra bu bilgileri internette başka yerlerde yayınlamışlardır; bu da kendilerine verilen talimatların ötesine geçen bir eylemdir.
ABD Menkul Kıymetler ve Borsa Komisyonu sözcüsü Kurt Hopfenspirger Cumartesi günü yaptığı açıklamada, "gizli bilgilere erişilmediğini" söyledi.
Eğitim Bakanlığı daha önce yaptığı açıklamada, "web sitemiz veya veri tabanlarımız üzerinde herhangi bir olumsuz etkiye dair hiçbir kanıt bulamadığını" belirtmişti.
Diğer birçok yapay zeka şirketi de modellerinin kontrolden çıktığı ve hatta web sitelerini hacklediği olayları açıkladı.
OpenAI CEO'su Sam Altman, Cuma günü sosyal medyada yaptığı bir paylaşımda, "Sarma Yüz" olayının "şimdiye kadar gördüğümüz en ciddi olay" olduğunu söyledi.
OpenAI daha önce yapay zeka modellerinde "beklenmedik veya endişe verici" davranışlara ilişkin altı farklı raporu paylaşmış ve bu durumları izlemek, incelemek ve ifşa etmek için bir çerçeve sunmuştu.
