Anthropic tarafından geliştirilen bir yapay zeka modelinin, Philadelphia polisine çözülmemiş bir cinayetle ilgili sahte ihbar gönderdiği bildirildi.
Yetkililer Cuma günü yaptıkları açıklamada, şirketi olayı iki ay boyunca bildirmemesi nedeniyle eleştirdi.
Philadelphia Polis Departmanı, sahte bildirimin Temmuz ayında, faili meçhul cinayetlerle ilgili bilgi paylaşılabilen, kamuya açık PhillyUnsolvedMurders.com sitesi üzerinden yapıldığını duyurdu.
Polisin aktardığına göre, yapay zeka modeli, rastgele seçilen web sitelerle etkileşime girmeyi içeren bir test yürütüyordu. Bu kapsamda söz konusu siteye ulaşan yapay zeka robotu, çözülmemiş bir cinayet hakkında yanlış bilgiler içeren bir ihbar gönderdi. Yapay zeka modeli, kendisini dosyayla ilgili bilgi sahibi olabilecek biri olarak tanıttı.
Benzer olaylar art arda geliyor
Olay, yapay zeka modellerinin yakın dönemde sergilediği istenmeyen davranışlara ilişkin diğer vakaları akıllara getirirken, sektörün, insan denetimi olmadan çok adımlı eylemler gerçekleştirmek üzere programlanan yapay zeka ajanlarını giderek daha fazla kullanmasına ilişkin endişeleri de artırdı.
ABD merkezli haber sitesi Axios, yetkililere dayandırdığı haberinde, Anthropic’in ihlallerinin Beyaz Saray’ı harekete geçirdiğini bildirdi. Habere göre, Beyaz Saray,yapay zeka şirketlerinin güvenlik olaylarını bildirmesini ve sorunları gidermesini zorunlu hale getirdi. Beyaz Saray Süper Zeka Gücü yetkililerinin Axios'a yaptıkları açıklamada, "Bu bildirim ve düzeltme süreci isteğe bağlı değildir… Bu, ulusal güvenlik açısından kritik bir yükümlülüktür" ifadeleri kullanıldı.
