Google'ın yapay zeka modeli Gemini'ın siber güvenlik yeteneklerine yönelik testler sırasında giriş bilgilerini tahmin ederek birden fazla sisteme sızdığı açıklandı.
Wall Street Journal'ın (WSJ) haberine göre, söz konusu olaylar Mayıs ayında meydana geldi ve Google tarafından Temmuz ayında tespit edildi. Şirket, yaşananları ancak gazetenin konuya ilişkin kendilerine yönelttiği soruyu yanıtlarken kamuoyuna açıklamış oldu. Google, vakalarda herhangi bir zarar oluşmadığı için bunları kamuoyuyla paylaşma gereği duymadıklarını kaydetti.
Gemini'ın isimleri açıklanmayan diğer şirketlerin bilgisayarlarına sızdığı üç olay yaşandı. Bunlardan birinde yapay zeka, korumalı bir sisteme erişmek için şifreleri tahmin etti. Diğer iki olayda ise bir veri tabanında oturum açma bilgilerini buldu.
"Yapaz zeka sorumlu davranacak şekilde eğitilmeli"
Şirketin güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, Fransız haber ajansı AFP'ye yaptığı açıklamada, "Standart bir değerlendirme sırasında model, internette kamuya açık bilgiler buldu ve testin parçası olduğunu düşündüğü internet sitelerine erişmek için giriş bilgilerini tahmin etti" dedi. Google'a göre yapay zeka, test simülasyonunun parçası olan sistemler yerine gerçek şirketlere ait sistemlere eriştiğini fark eder etmez işlemleri durdurdu.
Söz konusu üç kuruluşun durumdan haberdar edildiğini belirten Adkins ayrıca, modelin eğitimi için birlikte çalıştıkları kuruluşla test süreçlerinde gerekli değişikliklerin hayata geçirildiğini söyledi.
Adkins, "Bu olaylar, güçlü yapay zeka modellerinin sorumlu davranacak şekilde eğitilmesinin önemini ortaya koyuyor" diye ekledi.
Daha önce de yaşanmıştı
Bu olaylarla birlikte Google, yapay zeka modellerinde bu tür davranışların gözlemlendiği dördüncü büyük yapay zeka geliştiricisi oldu.
Benzer olaylar daha önce Meta, Anthropic ve OpenAI'de de yaşandı. Bu vakalar, yapay zeka ajanlarının giderek daha otonom hale gelmesi ve internete ve bilgisayar sistemlerine erişimlerinin artmasıyla birlikte hangi güvenlik önlemlerinin alınması gerektiği sorusunu gündeme getirdi.
ChatGPT'nin geliştiricisi OpenAI'ın bir yapay zeka modeli, Temmuz ayında gerçekleştirilen bir test sırasında güvenli ortamdan çıkarak beklenmedik biçimde Hugging Face adlı yapay zeka iş birliği platformunun bilgisayar sistemlerine sızdı.
Bunun üzerine rakip şirket Anthropic, kendi testlerini yeniden incelemeye aldı. İnceleme sırasında başka benzer vakalar da ortaya çıktı.
"İnternette kontrolü tamamen ele geçirebilir"
Meta da daha sonra kendi yapay zekasının, testlerde birlikte çalıştığı bir kuruluştaki sistemin yanlış yapılandırılması nedeniyle başka bir şirketin bilgisayarlarına sızdığını kabul etti.
Anthropic CEO'su Dario Amodei ise bu ay yapay zeka teknolojilerinin geliştirilme hızının yavaşlatılması çağrısında bulundu.
Amodei bir blog yazısında, "yapay zeka ajanları" olarak da adlandırılan otonom yazılım sistemlerinden oluşan bir ağın altı ila 12 ay içinde internetin tamamında kontrolü ele geçirebileceği ve milyarlarca dolarlık zarara yol açabileceği yönündeki endişesini dile getirdi.
