Anthropic'te çalışan eski bir araştırmacının yapay zekâ hakkında kıyamet senaryoları içeren bir açıklama yapmasının üzerinden bir gün geçtikten sonra, yapay zekâ girişimindeki daha fazla araştırmacı ve personel onunla aynı fikirde olduklarını belirterek kendi felaket uyarılarını yayınladılar.
Buna karşılık, Elon Musk ve eski adıyla Twitter olan X platformundaki diğer muhafazakar isimler, dile getirilen endişeleri "komplo" ve "psikolojik operasyon" olarak nitelendirdi.
Anthropic'in iç çevrelerindekiler, geliştirdikleri teknolojinin on yıl içinde insanlığın yok olmasına yol açacak kadar gelişmiş ve tehlikeli hale gelebileceğinden endişe ediyorlar ve birçok meslektaşlarının da aynı şeyi düşündüğünü ancak bunu kamuoyuna açıklamadıklarını iddia ediyorlar.
Bu araştırmacılar ve personel, Anthropic araştırmacısı Jacob Coxon'ın Çarşamba günü yaptığı ve viral hale gelen bir paylaşımına yanıt olarak bu açıklamaları yapıyorlar. Coxon, hem Anthropic'in hem de rakibi OpenAI'nin (ki kendisi de eski işvereni) yapay zeka modellerini sorumlu bir şekilde geliştirmediğini ve "hayatlarımızla kumar oynadığını" söyleyerek şirketten istifa ettiğini belirtmişti.
Anthropic'te Yapay Genel Zeka Güvenliği üzerine çalışan ve daha önce Google'ın DeepMind şirketinde görev yapmış olan Anna Wang, Perşembe günü yaptığı açıklamada, Anthropic'teki birçok kişinin bu yapay zeka modelleriyle birlikte gelebilecek riskleri azaltmak için bir plan geliştirmek amacıyla geliştirme sürecini yavaşlatmak istediğini söyledi.
Wang, X platformunda yazdığı yazıda, "Tekrarlayan şekilde kendini geliştiren yapay zekadan kaynaklanan riskleri çözmek için henüz uygulanabilir bir bilimsel plan yok" dedi.
Anthropic şirketinin bir diğer çalışanı Drake Thomas, Coxon'ın bu modellerin gezegen ölçeğinde risk oluşturabileceği endişesiyle bunlardan vazgeçme kararını saygıyla karşıladığını söyledi.
Thomas, "İşler çok hızlı ilerliyor, yapay süper zekâ (ASI) için istediğimiz güvence düzeyine henüz ulaşamadık," dedi.
Musk daha muhalif bir tavır takındı. "Bir kumpas gibi görünüyor," diye yazdı .
Coxon, dünyanın en zengin adamına bir özçekimle yanıt vererek, "Ben gerçek biriyim ve bunlar gerçek inançlarım. Eğer onları işten çıkarmamış olsaydınız, yapay zeka araştırmacılarınıza benim hakkımda sorabilirdiniz." diye yazdı.
Anthropic sözcüsü Guardian'a yaptığı açıklamada şirketin stratejisini savundu. Açıklamada, "Yapay zekanın hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk. Bu riskleri ele almak için, sektördeki en güçlü güvenlik önlemlerinden bazılarına sahip modeller geliştirmeye devam ediyoruz" denildi.
Musk ve yapay zekaya daha olumlu bakan diğerleri, Coxon'ın paylaşımının ve bunun sonucunda ortaya çıkan tepkilerin, kamuoyunun yapay zeka hakkındaki düşüncelerini olumsuz yönde etkilemeyi amaçlayan bir "psikolojik operasyonun" parçası olduğu yönünde teoriler yaymaya başladılar.
Musk, X hesabından yaptığı paylaşımda, "Bence bu psikolojik operasyonun (daha iyi bir terim bulamadığım için) temelleri uzun zamandır atılıyordu. Bu sadece ateşi tutuşturan kibrit oldu" dedi.
Musk, muhafazakar düşünce kuruluşu Capital Research'te araştırmacı olan Parker Thayer'in, Coxon'ın paylaşımının "Demokratların yapay zekayı tamamen ortadan kaldırmak için düzenlemeler getirmesine destek sağlamak amacıyla çok sofistike ve iyi finanse edilmiş bir halkla ilişkiler operasyonunun başlangıcı" olduğu yönündeki az kanıtlı teorisine yanıt veriyordu. Diğer önemli isimler de bu duruma dikkat çekti.
Milyarder hedge fonu Pershing Square'in CEO'su Bill Ackman da Thayer'in paylaşımını alıntılayarak kısaca "İlginç" dedi.
Diğer Anthropic çalışanları, Coxon'ın Çarşamba günü istifasını açıklamasından kısa bir süre sonra onunla aynı fikirde olduklarını paylaştılar.
Anthropic'te güvenlik araştırmaları yapan Samuel Marks, "Yapay zeka geliştiricileri, teknolojilerinin insanlığın yok olmasına (veya benzer kötü sonuçlara) yol açabileceğine inanıyor" diye yazdı. "Bu önümüzdeki birkaç yıl içinde gerçekleşebilir. Genel olarak, çalışan ne kadar kıdemliyse, endişesi de o kadar fazla oluyor."
Kendisini Anthropic'in yapay zeka modellerinin insan hedefleriyle uyumlu çalışmasını sağlamakla görevli uyum bölümünün lideri olarak tanımlayan Evan Hubinger, Coxon'ın "haklı" olduğunu ve sektörün kıyamet potansiyeliyle başa çıkma girişimlerinde geride kaldığını söyledi.
Hubinger, "Yapay zekanın tüm insanları öldürebileceğine gerçekten yürekten inanıyoruz! Şahsen, önümüzdeki on yıl içinde bu oranın %10'dan fazla olacağını düşünüyorum." diye yazdı .
Coxon ve diğerlerinin yapay zekâ modellerinin insanlığın sonunu nasıl getireceğini tam olarak anlamak mümkün değil. Bazı uzmanlar, teknolojinin kıyamete yol açacak kadar zeki hale geleceğinden şüphe duyuyor. Yapay zekâ alanında önde gelen isimlerden bilim insanı Gary Marcus, yapay zekâyı boykot etmenin zamanının geldiğini, ancak bunun zaten zarara yol açtığı için olduğunu söyledi.
Marcus, nesli tükenme tehlikesinden ziyade, "yapay zeka tarafından üretilen patojenlerden, yapay zeka tarafından üretilen dezenformasyonla başlatılan veya tırmandırılan savaşlardan, kritik altyapıyı yok eden siber saldırılardan ve benzerlerinden kaynaklanabilecek felaket riski" konusunda endişelendiğini söyledi. "Gördüğüm hiçbir şey bunların herhangi birinin kontrol altında olduğuna dair bir işaret vermiyor."
Aynı gün, Anthropic şirketi, yapay zeka modellerini kullanarak biyolojik silah üretmeye çalışan bir operasyonu nasıl çökerttiğini belgeleyen bir rapor yayınladı.
