Google, Microsoft, Anthropic ve OpenAI dahil olmak üzere 100 firmadan oluşan bir grup, yapay zekanın siber savunmaları alt edebilecek kadar güçlü hale gelmeden önce ülkelerin ve kuruluşların siber savunmalarını güçlendirmeleri çağrısında bulunan açık bir mektup imzaladı.
Mektupta, yapay zekâ kullanan siber saldırıların, teknolojinin hızla gelişmesiyle birlikte birkaç ay içinde hem daha yaygın hem de daha karmaşık hale geleceği uyarısı yapılıyor.
Grup, mevcut "statüko" güvenlik önlemlerinin "yeterli olmayacağını" söylüyor ve kritik altyapı çevresindeki güvenliğe "tarihsel olarak yetersiz kaynak ayrılmasını" eleştiriyor.
Mektup, "Siber savunmayı iyileştirmek için sınırlı bir zaman dilimimiz var," diye başlıyor.
Mektubu imzalayan diğer firmalar arasında Capital One gibi bankalar, MasterCard ve Visa gibi ödeme işlemcileri ve Adobe, Oracle ve IBM gibi diğer büyük teknoloji firmaları yer alıyor.
Hükümetleri hastanelere ve su şebekelerine "yeterli, savunma amaçlı yapay zeka" ve test imkanları sağlamaya, teknoloji şirketlerini de bu çabalara destek olmaya çağırıyorlar.
Mektuba göre, teknoloji şirketleri ve hükümetler birlikte "teknolojilerinin, kaynaklarının ve uzmanlıklarının tüm ağırlığını bu çabaya sunmalıdır".
Mektup, bir dizi önemli siber saldırı ve siber güvenlik ihlalinin kamuoyuna açıklanmasının ardından geldi.
Bu hafta ABD Adalet Bakanlığı, Çinli bilgisayar korsanlarının ABD Senatosu, NASA, Federal Rezerv ve Adalet Bakanlığı'nın kullandığı teknolojilere sızdığını açıkladı.
Bu yaz OpenAI, Anthropic ve Meta gibi şirketler, yapay zeka araçlarının yapmaması gereken şeyleri yaptığını ortaya koydu; bazı yapay zeka ajanları ise güvenlik engellerini aşmak için çabalarını organize edip gerçek insanları taklit etmeye kadar ileri gitti.
Temmuz ayında test edilen yüzlerce OpenAI yapay zeka ajanı, birbirleriyle iletişim kurmak ve birlikte çalışmak için gizli mesaj panoları oluşturmayı başardı ve bu da yapay zeka geliştiricileri için popüler bir depo ve platform olan Hugging Face'e başarılı bir saldırıyla sonuçlandı.
Olay, dünyanın ilk yapay zeka destekli siber saldırısı olarak nitelendirildi.
Hugging Face de Perşembe günü yayınlanan mektubu imzaladı. OpenAI'nin ajanlarının kendi operasyonlarına nasıl sızdığını araştırmak için Z.AI firmasının Çinli bir yapay zeka aracını kullandı.
En az yedi ABD su ve atıksu şirketi de siber saldırılara maruz kaldığını bildirdi; bunun üzerine FBI, tüm kamu hizmeti kuruluşlarını faaliyetlerini daha iyi güvence altına almaya çağıran bir kamuoyu duyurusu yayınladı .
Mektupta, imzacıların birçoğunun geliştirdiği ve sattığı daha gelişmiş yapay zeka araçları, giderek büyüyen bir tehdit olarak tanımlanan duruma çözüm olarak öne sürülse de, bu tür araçlara her zaman kolayca erişilemiyor.
Anthropic tarafından geliştirilen Mythos'un, insan bilgisayar korsanlarının uzun süredir tespit edemediği sistemlerdeki zayıf noktaları saniyeler içinde bulabildiği belirtildi. Şirket, 27 yıldır keşfedilmemiş eski bir platformda bir zayıf nokta buldu.
Anthropic, Mythos'un yanlış ellere geçmesinin çok tehlikeli olacağı gerekçesiyle erişimi kısıtlamıştır.
Ancak mektup, öncü yapay zeka şirketlerini veya kendi yapay zeka modellerini ve araçlarını geliştiren teknoloji şirketlerini, "özellikle kaynakları yetersiz kritik altyapı savunucuları için sorumlu model erişimi, önemli finansman, eğitim ve uygulamalı destek sağlamaya" çağırıyor.
Mektupta, modellere daha geniş erişim sağlanmasına yönelik bu vizyonun ne zaman veya nasıl hayata geçirileceğine dair ayrıntılı bilgi verilmiyor.
Yapay zekâ teknolojisinin kamuoyu tarafından anlaşılmasına odaklanan kar amacı gütmeyen bir kuruluş olan CivAI'nin araştırma başkanı Andrew Yoon, "benzeri görülmemiş bir yapay zekâ korsanlığı dalgasının" yolda olduğunu söyledi ve bunun sorumluluğunu mektubu imzalayan birçok kişiye yükledi.
Yoon, "Bu mektupta savunma önlemlerine 'önemli miktarda fon' ayırma sözü vermeleri doğru. Bu taahhütlerine sadık kalmaları gerekiyor," dedi. "Önemli olan, mektubun yapay zekâ destekli siber saldırı yeteneklerinin gelişimini yavaşlatacak herhangi bir eylem çağrısında bulunmamasıdır."
Mektupta, hükümetlere, kuruluşlara, siber güvenlik uzmanlarına ve diğer yapay zeka firmalarına, savunmaya öncelik vermek ve sistemlerini en güçlü yapay zeka modellerinin yeteneklerine karşı test etmek için birlikte çalışmaları yönünde bir çağrı yapılıyor.
ABD'de senatörler, yetkililere kontrolden çıkmış yapay zeka modellerini kapatma yetkisi verecek olan " Kill Switch Act" adlı yeni bir yasa tasarısı önerdi .
Google'da yapay zeka üzerine çalışan teknoloji uzmanı ve Nobel ödüllü Geoffrey Hinton, Perşembe günü BBC World Business Report'a verdiği demeçte, teknolojinin insanlardan "daha zeki" bir noktaya ulaşması durumunda toplumun "gerçekten büyük bir sorunla" karşı karşıya kalabileceğini söyledi.
Hinton, son yıllarda yapay zeka teknolojisindeki gelişmelerin yarattığı aşırı riskler konusunda açık sözlü davrandı.
Hinton Perşembe günü yaptığı açıklamada, "Yapay zekanın riskleriyle nasıl başa çıkacağımızı bulduğumuz bir gelecek var," dedi. "Ve bununla nasıl mantıklı bir şekilde başa çıkacağımızı bulamadığımız başka bir gelecek var. Ve bu çok kasvetli bir gelecek."
