OpenAI CEO'su Sam Altman , şirketin anlaşmasına bu maddeyi ekleyeceğini ve sistemlerinin Amerikalıları gözetlemek için kullanılmasını açıkça yasaklayacağını söyledi.
Anlaşma, OpenAI'nin rakibi Anthropic ile Savunma Bakanlığı arasında , Claude adlı yapay zeka modelinin kitlesel gözetim ve tamamen otonom silahlarda kullanımıyla ilgili endişeler nedeniyle yaşanan anlaşmazlığın ardından Cuma günü ortaya çıkmıştı. Ancak bu durum, yapay zekanın savaşta nasıl kullanılacağı ve hükümet ile özel şirketlerin ne kadar güce sahip olacağı konusunda soruları gündeme getirdi.
OpenAI'nin Cumartesi günü yaptığı açıklamada, Pentagon ile yapılan anlaşmanın "Anthropic'in anlaşması da dahil olmak üzere, gizli yapay zeka uygulamalarına ilişkin önceki tüm anlaşmalardan daha fazla güvence içerdiği" iddia edildi .
Altman, Pazartesi günü X platformunda yaptığı paylaşımda, sistemin "ABD vatandaşlarının ve kişilerinin iç gözetimi için kasıtlı olarak kullanılmamasını" sağlamak da dahil olmak üzere daha fazla değişiklik yapıldığını belirtti.
BBC haberine göre, yeni değişikliklerin bir parçası olarak, Ulusal Güvenlik Ajansı gibi istihbarat teşkilatları da sözleşmede "ek bir değişiklik" yapılmadan OpenAI'nin sistemini kullanamayacak.
Altman, şirketin "bunu Cuma günü piyasaya sürmek için acele ederek" hata yaptığını kaydederek, "Sorunlar son derece karmaşık ve net iletişimi gerektiriyor. Gerçekten de gerginliği azaltmaya ve çok daha kötü bir sonucu önlemeye çalışıyorduk, ancak bence bu durum fırsatçı ve özensiz göründü." dedi.
Anthropic'in Claude uygulaması Apple'ın App Store sıralamasında zirveye yükseldi
OpenAI, Pentagon ile işbirliği yapacağını duyurmasının ardından kullanıcılardan tepkiyle karşılaştı.
Sensor Tower'ın verilerine göre, OpenAI'nin Savunma Bakanlığı ile ortaklığı haberinin Cuma günü duyurulmasından bu yana ChatGPT uygulamasını kaldıranların sayısı hızla arttı.
Pazar araştırma firması, günlük ortalama uygulama kaldırma oranının normal oranlara kıyasla %200 arttığını belirtti.
Bu arada, Anthropic'in Claude uygulaması Apple'ın App Store sıralamasında zirveye yükseldi ve Salı günü itibariyle hala orada yer alıyor .
Anthropic şirketinin, teknolojisinin tamamen otonom silahlar üretmek için kullanılmaması gerektiği yönündeki kurumsal "kırmızı çizgi" ilkesinden vazgeçmeyi reddetmesinin ardından, yapay zeka modeli Trump yönetimi tarafından kara listeye alındı.
Yapay zeka orduda nasıl kullanılıyor?
Yapay zekâ, askeri alanda çeşitli şekillerde kullanılmaktadır; örneğin lojistiği kolaylaştırmak veya büyük miktarda bilgiyi hızlı bir şekilde işlemek gibi.
ABD, Ukrayna ve NATO'nun tamamı, istihbarat toplama, gözetim, terörle mücadele ve askeri amaçlar için devlet müşterilerine veri analizi araçları sağlayan Amerikan şirketi Palantir'in teknolojisini kullanıyor.
İngiltere Savunma Bakanlığı geçtiğimiz günlerde söz konusu firma ile 240 milyon sterlinlik bir sözleşme imzaladı.
Geçtiğimiz yılın sonunda BBC, Palantir'in yapay zekâ destekli savunma platformu Maven'ı NATO'ya entegre etme sürecinde yer alan bazı kişilerle görüştü.
Palantir'in İngiltere operasyonlarının başkanı Louis Mosley, yazılımın uydu verilerinden istihbarat raporlarına kadar çok çeşitli askeri bilgileri bir araya getirdiğini ve bu bilgilerin daha sonra Claude gibi ticari yapay zeka sistemleri tarafından analiz edilerek "daha hızlı, daha verimli ve nihayetinde uygun olduğu durumlarda daha ölümcül kararlar alınmasına" yardımcı olduğunu söyledi.
Ancak yapay zekanın büyük dil modelleri hata yapabilir, hatta "halüsinasyon görme" olarak bilinen şekilde uydurmalar bile yapabilir.
NATO'nun Görev Gücü Maven'ın veri sorumlusu Yarbay Amanda Gustave, insan gözetiminin olduğunu vurgulayarak, "sürece her zaman bir insan unsuru dahil ettiklerini" ve bir yapay zekanın "bizim yerimize karar vermesinin asla söz konusu olmayacağını" sözlerine ekledi.
Anthropic'in aksine Palantir, otonom silahlara yönelik topyekün bir yasağı desteklemiyor, ancak "insan faktörünün devreye girmesi" gerektiğini söylüyor.
