Yapay zeka şirketi OpenAI'deki güvenlik açığının ortaya çıkmasının ardından bu sefer de rakip şirketlerden Anthropic, YZ modellerinin bir test sırasında üç şirketin sistemlerine "yetkisiz erişim" sağladığını bildirdi.
Açıklamada, yapılan 141 binden fazla test faaliyetinin değerlendirilmesinde, Claude YZ modelinin üç farklı versiyonunun, yetkisi olmadığı halde şirketlerin sistemlerine girdiğinin tespit edildiği kaydedildi. Anthropic, YZ'nin hangi şirketlere erişim sağladığını ise açıklamadı.
Deneme aşamasındaki YZ modellerinin aslında, test çalışmaları esnasında "gerçek dünya" sistemlerinden uzak tutulması gerekiyor. DW'de yer alan habere göre OpenAI, geçen hafta şirketin YZ modellerinin bir güvenlik testi sırasında test ortamından kaçtığını, kendi başına internete erişim sağladığını ve Hugging Face adlı popüler bir programlama platformuna siber saldırı düzenlediğini açıklamıştı. OpenAI'den Salı günü yapılan açıklamada ise buna benzer başka olayların da tespit edildiği duyurulmuştu.
Anthropic'e göre hata "yanlış anlamadan" kaynaklanıyor
Anthropic, OpenAI teknolojisindeki olayın aksine, kendi YZ modellerinin Anthropic ile "değerlendirme ortağı Irregular arasındaki bir yanlış anlama nedeniyle" internete erişim sağladığını ifade ederek "Bu olayların hiçbirinde Claude kendiliğinden test ortamından çıkmadı veya bilinçli olarak oradan kaçmaya çalışmadı. Ancak zayıf şifrelerin ve kimliği doğrulanmamış uç noktaların istismar edilmesi gibi basit teknikler" kullandı bilgisini paylaştı.
"Uç noktaları istismar eden" modeller arasında, Mythos 5 olarak bilinen ve şu ana kadar yalnızca sınırlı sayıda yetkili ortağa sunulan en güçlü YZ modellerinden biri de yer alıyor. Anthropic'in, durumu değerlendirmek için Irregular ile çalıştığı ve etkilenen üç şirketle iletişime geçtiği veya iletişime geçmeye çalıştığı bildirildi.
OpenAI ve Anthropic bu yıl sırasıyla Sol ve Mythos ile şimdiye kadar geliştirilen en güçlü YZ modellerini hayata geçirdiler. Sektördeki bu gelişme, özellikle "YZ ajanları" olarak adlandırılan yazılım ürünlerine yönelik güvenlik endişelerini tetikliyor. "YZ ajanları" tabiri, bağımsız olarak görev üstlenecek şekilde geliştirilen yazılım ürünleri için kullanılıyor.
Geçen haftaki OpenAI olayından sonra birçok uzman siber güvenlikle ilgili endişesini dile getirmişti. Hugging Face'e yapılan saldırı, bir YZ modelinin gerçek dünyada bağımsız olarak saldırı gerçekleştirdiği, bilinen ilk vaka olarak kabul ediliyor. OpenAI de yaşanan olayı "benzeri görülmemiş" olarak nitelendirmişti.
AB'li yetkililer OpenAI ve Anthropic ile görüştü
Avrupa Komisyonu yetkilileri Cuma günü, OpenAI ve Anthropic ile görüşme yapıldığını duyurdu. Görüşmelerde, bu şirketlerin yapay zekâ modellerini hedef alan son siber saldırı olayları ele alındı. Yetkililer ayrıca, yüksek riskli sistemlerin sıkı bir şekilde izlenmesini öngören AB düzenlemelerine de dikkat çekti.
2 Ağustos'ta yürürlüğe girecek olan Avrupa Yapay Zekâ Yasası, iş dünyasının ve toplumun hemen her alanında kullanılan yapay zekâyı düzenleyen dünyanın ilk yasal çerçevesi olacak.
Uygulamada bu kurallar, belirli yapay zekâ sistemlerinin kullanıcılarla etkileşime girdiğinde bunu bildirmesini ve içeriğin yapay zekâ tarafından üretildiği veya değiştirildiği durumlarda kullanıcıları bilgilendirmesini zorunlu kılıyor.
Özellikle büyük endişeye yol açan durum ise, Open AI modelinin geçen hafta gerçekleştirdiği siber saldırının Çinli bir YZ modeli tarafından durdurulabilmesi, ABD modellerinin bunu başaramaması oldu. YZ geliştirmede bu iki ülke büyük bir yarış içinde bulunuyor.
YZ konusunda uzman çok sayıda isim, geçen hafta bir dilekçeyle ABD hükümetinden en gelişmiş YZ modellerinin kullanımının geciktirilmesinde yardım talep etmişti.
Anthropic CEO'su Dario Amodei'nin de aralarında bulunduğu imzacılar, "ABD hükümetinin, otomatik YZ geliştirmenin sınırlarını bilinçli olarak yönetmek için gerekli teknik ve düzenleyici araçları geliştirme konusunda uluslararası çabaları desteklemesini" istediler.
OpenAI CEO'su Sam Altman ise imzacılar arasında yer almadı. Ancak Altman, geçen salı günü yayınlanan bir röportajında, YZ modellerindeki hızlı ilerlemelerde geliştiricilerin, toplumun gelişmelere ayak uydurma şansına sahip olması için gönüllü olarak frene basmaları gerekebileceğini dile getirdi.
ABD'de Donald Trump yönetimi kısa süre önce ulusal güvenliğe atıfta bulunarak OpenAI ve Anthropic'in en yeni modellerini piyasaya sürmesini engellemişti. Daha sonra ise Washington'un, şirketlerin güvenlik taahhütlerinden memnun olduğunu açıklamasının ardından bu yeni modeller uygulanmaya başlandı.
Trump Haziran başında, OpenAI veya Google gibi teknoloji şirketlerini hükümetle "gönüllü iş birliği" yapmaya çağıran bir kararname imzalamıştı. Buna göre şirketlerin, yeni YZ modellerini yayınlamadan 30 gün önce ABD hükümetine sunmaları gerekiyor.
