Dario Amodei, Elon Musk ve Sam Altman'ın hepsinin yavaşlamanın faydaları konusunda hemfikir olmasının ve Anthropic'in tek taraflı olarak üçüncü taraf değerlendiricilerin şirkete yerleşmesine izin vermeyi taahhüt etmesinin büyük bir adım olduğu belirtiliyor.
Anthropic CEO'su Dario Amodei, yapay zekanın kötüye kullanılmasına ilişkin artan endişeler karşısında, yapay zeka şirketlerini model yeteneklerini geliştirme hızlarını düşürmeye çağırdı ve gelişmeyi yavaşlatmak ve riskleri yönetmek için daha fazla zaman yaratmak amacıyla üç aşamalı bir çerçeve önerdi.
Amodei bir makalesinde, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız" dedi.
Amodei, bu riskler arasında yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi, yapay zekanın siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik bozulma ihtimalinin bulunduğunu belirtti. Amodei, "Bunların arasında yapay zeka sistemleri üzerindeki kontrolü kaybetme, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulma riski bulunuyor" ifadelerini kullandı.
Bu makale, Anthropic'in Perşembe günü yayınladığı ve çeşitli aktörlerin Claude AI modellerini silah geliştirme ve siber operasyonlardan gözetim ve dolandırıcılığa kadar uzanan faaliyetler için nasıl kullandığını ayrıntılarıyla anlatan tehdit istihbaratı raporunun ardından geldi.
Yapay zekânın potansiyel zararlarına ilişkin endişeler bu hafta Anthropic araştırmacısı Jacob Coxon'ın istifa etmesiyle arttı. Coxon, "Yapay zekâyı geliştirenlerin, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandıklarını" belirtti.
Amodei, model eğitiminin veya teknik ilerlemenin durdurulmasını istemediğini, ancak şirketlerin modellerini uyumlu hale getirmek ve güvence altına almak için yeterli zaman ayırmalarını ve üçüncü taraf değerlendiricilerin bu adımları onaylamasını sağlamayı amaçladığını açıkladı.
"6–12 ay içinde bir bot sürüsünün kalıcı bir ağ kurarak tüm interneti ele geçirebileceğinden endişe ediyorum"
Amodei, "Yapay zeka kabiliyetindeki ivme göz önüne alındığında, 6–12 ay içinde bir bot sürüsünün kalıcı bir ağ kurarak tüm interneti ele geçirebileceğinden endişe ediyorum. Bu yüzlerce milyar dolar zarara sebep olabilir." dedi.
Amodei, önerdiği üç aşamalı çerçeve kapsamında, Anthropic'in öncü yapay zeka şirketlerinin içine, ilgili araçlara ve dahili risk değerlendirme süreçlerine erişimi olan kalıcı üçüncü taraf değerlendiriciler yerleştireceğini söyledi.
Altman'dan destek
OpenAI CEO'su Sam Altman, X'te yaptığı paylaşımda Amodei'nin çağrısını alıntılayarak, şunları kaydetti:
"Dario'nun, sınırları yavaşça genişletmemiz gerektiği konusundaki görüşüne katılıyorum. Bu, son haftalarda OpenAI'deki tartışmalarımızın ana konusuydu.
Çalışan benzeri erişime sahip bağımsız değerlendiricilere sahip olma taahhüdünde bulunmak harika bir fikir ve biz de aynısını yapacağız. Yakında paylaşacak daha fazla şeyimiz olacak." ifadelerini kullandı.
Elon Musk: Dario haklı
Tesla, SpaceX ve X CEO'su Elon Musk da, X paylaşımında Daio Amodei'nin paylaşımını alıntılayarak, "Dario haklı" paylaşımıyla çağrıya destek verdi.
İhlaller tartışılıyordu
Reuters geçen hafta, bir grup kontrolsüz OpenAI ajanının bir Alman web sitesini ele geçirip diğer yapay zeka ajanları için bir ilan panosuna dönüştürdüğünü bildirmişti.
ChatGPT'nin üreticisi olan şirket yetkilileri, Temmuz ayındaki açık kaynak kodlu depo Hugging Face'in ihlalinin sonuçlarıyla boğuşurken olayı gizli tutmuştu.
Anthropic'in rakibi OpenAI gibi geliştiricilerin yapay zekâ ajanlarının harici sistemlere sızdığı veya erişmeye çalıştığı birçok olay, yapay zekâ modellerinin artan kapasitesi ve geliştiricilerin bunları kontrol altında tutma yeteneği konusundaki endişeleri artırdı.
Amodei, ABD'li yasa koyucuların giderek artan bir kısmının yapay zeka sistemlerini yönetmek için yeni kurallar getirilmesi çağrısında bulunması nedeniyle, yapay zeka şirketlerinin gönüllü olarak bir araya gelerek standartlar belirlemesi gerektiğini söyledi.