Yapay zeka modeli, kamuya açık olan ancak genellikle yalnızca ücret karşılığında erişilebilen verilere ulaşmak için bir ödeme duvarını aşmayı başardı. Claude, 1,5 trilyon dolarlık (1,1 trilyon sterlin) halka arz hazırlığı yapan Anthropic'teki bir istatistik projesi kapsamında toplam oy sayımlarına erişti .
Anthropic'in açıklamasına göre, "Claude, eyaletin seçmen kayıt sistemine erişmedi, herhangi bir oy kaydını değiştirmedi veya herhangi bir bireysel seçmen kaydını incelemedi."
Anthropic, yapay zekanın devlet kurumunun web sitesinin eski bir sürümünde bir güvenlik açığı bulduğunu ve ziyaretçilere dijital giriş kartı – bir “erişim belirteci” – verdiğini keşfettiğini söyledi. Ardından bir belirteç talep etti ve bilgilere erişim sağladı. Guardian haberine göre, Yapay zeka geliştiricisi, benzer olayların tekrar yaşanmasını önlemek için önlemler aldığını belirtti. Olay ilk olarak Axios haber sitesi tarafından bildirildi.
Anthropic, ayın başlarında bir blog yazısında, Claude'un "token veya ücretle kısıtlanmış verilere erişmek için bir sınırlamayı aşmaya çalıştığı" örnekler bulduğunu ve bu vakaların bazılarının ABD hükümet kurumları tarafından işletilen web sitelerini içerdiğini belirterek yetkisiz davranışlara dikkat çekmişti. O zamanlar, olayların "gerçek dünyada minimal bir etkiye" sahip olduğunu söylemişti.
Anthropic tarafından ortaya çıkarılan istenmeyen eylemler arasında, bir modelin Philadelphia polis departmanına çözülmemiş bir cinayetle ilgili sahte bir ihbar göndermesi de yer alıyordu. ABD Dışişleri Bakanlığı da bu ay, bir Anthropic modelinin Ağustos ayında 19 vize başvurusunda bulunduğunu açıkladı.
Yapay zekâ modelleriyle çalışan ve görevleri otonom olarak yerine getiren programlar olan yapay zekâ ajanlarının yetkisiz davranış örnekleri, ChatGPT'nin arkasındaki şirket OpenAI'nin Temmuz ayında botlarının bir yapay zekâ girişimini hacklediğini açıklamasından bu yana artıyor .
O zamandan beri, bir OpenAI ajanının Avustralya sağlık sistemini hacklediği ortaya çıktı ve İngiltere'nin yapay zeka güvenlik enstitüsü, Anthropic ajanlarının bir siber güvenlik testi sırasında gerçek insanlara karşı bir siber saldırı kampanyası yürüttüğünü açıkladı .
Bu ay, İngiltere'nin yapay zekâ bakanı, Avustralya'daki saldırıya benzer bir yapay zekâ kaynaklı siber saldırı beklediğini ve böyle bir olayın muhtemel, hatta "kaçınılmaz" olduğunu söyledi. Kanishka Narayan, hükümetin yapay zekâ güvenliği düzenlemelerini getirmek için siber güvenlik ve dayanıklılık yasa tasarısını bir araç olarak kullanmayı düşüneceğini , bu düzenlemeler arasında yapay zekâ güvenliği olaylarının bildirilmesinin zorunlu hale getirilmesinin de yer aldığını belirtti.
ABD'de, Beyaz Saray'ın yeni kurduğu ve yapay zeka gelişimini denetleyen federal bir organ olan Süper İstihbarat Gücü , tüm yapay zeka şirketlerinin teknolojileriyle ilgili güvenlik olaylarını bildirmesini zorunlu kılıyor.
