CNN'de Allison Morrow'un, "Yapay zekâ araştırmacıları, görevlerinden ayrılırken alarm veriyorlar" başlıklı analizi, son birkaç günde yapay zeka şirketlerinden ayrılan uzmanların açıklamalarına dikkati çekiyor. İşte o analiz:
Anthropic'in Güvenlik Önlemleri Araştırma ekibinin eski başkanı, çıkışa doğru yönelirken, "Dünya tehlikede," diye uyardı. Benzer şekilde ayrılan OpenAI'den bir araştırmacı ise, teknolojinin "anlamak bir yana, önlemek için bile sahip olmadığımız araçlarla kullanıcıları manipüle etme potansiyeline sahip olduğunu" söyledi.
Onlar, sadece işverenlerini terk etmekle kalmayıp, ayrılırken yüksek sesle alarm zillerini çalan ve gördükleri parlak kırmızı işaretlere dikkat çeken yapay zeka araştırmacıları ve yöneticilerinden oluşan bir dalganın parçası.
Silikon Vadisi yüksek personel değişim oranıyla bilinirken, son dönemdeki hareketlilik, OpenAI ve Anthropic gibi pazar liderlerinin, büyümelerini hızlandırabilecek ancak aynı zamanda faaliyetlerinin yoğun bir şekilde incelenmesine de yol açabilecek halka arzlara doğru yarıştığı bir dönemde yaşanıyor.
Son birkaç günde, yapay zeka alanında çalışan birçok üst düzey isim istifa kararı aldı; bazıları ise çalıştıkları şirketlerin çok hızlı hareket ettiğini ve teknolojinin eksikliklerini hafife aldığını açıkça belirtti.
Son iki yıldır OpenAI'da araştırmacı olarak çalışan Zoë Hitzig, Çarşamba günü New York Times'da yayınlanan bir makalede , OpenAI'nin yeni reklam stratejisine ilişkin "derin çekincelerini" gerekçe göstererek istifasını açıkladı. ChatGPT'nin kullanıcıları manipüle etme potansiyeli konusunda uyarıda bulunan Hitzig, "tıbbi korkular, ilişki sorunları, Tanrı ve ahiret hakkındaki inançlar" üzerine kurulu olan chatbot'un kullanıcı verisi arşivinin, insanların hiçbir art niyeti olmayan bir programla sohbet ettiklerine inanmaları nedeniyle etik bir ikilem oluşturduğunu söyledi.
Hitzig'in eleştirisi, teknoloji haber sitesi Platformer'ın OpenAI'nin, insanlığın tamamının "yapay genel zeka" (insan düzeyinde düşünme yeteneğine sahip varsayımsal bir yapay zeka) arayışından faydalanmasını sağlamayı amaçlayan ve 2024'te kurulan "misyon uyumlaştırma" ekibini dağıttığını bildirmesiyle aynı zamana denk geliyor.
OpenAI, yorum talebine hemen yanıt vermedi.
Yine bu hafta, Anthropic'in Güvenlik Önlemleri Araştırma ekibinin başkanı Mrinank Sharma, Salı günü şirketten ayrılma kararını açıklayan ve "dünyanın tehlikede olduğu" uyarısında bulunan gizemli bir mektup yayınladı .
Sharma'nın mektubunda, Claude chatbot'unun arkasındaki şirket olan Anthropic'e yalnızca üstü kapalı göndermeler yapıldı. Ayrılma nedenini belirtmedi ancak "artık yoluma devam etme zamanının geldiği benim için açık" ve "burada geçirdiğim süre boyunca, değerlerimizin eylemlerimizi gerçekten yönlendirmesinin ne kadar zor olduğunu defalarca gördüm" diye belirtti.
Anthropic, CNN'e yaptığı açıklamada, Sharma'nın yapay zeka güvenliği araştırmalarına yaptığı katkılardan dolayı minnettar olduğunu belirtti. Şirket, Sharma'nın güvenlikten sorumlu olmadığını ve şirket genelindeki güvenlik önlemlerinden de sorumlu olmadığını kaydetti.
Bu arada, xAI'da iki kurucu ortak bu hafta 24 saat içinde istifa ederek X platformunda ayrılışlarını duyurdu. Bu durum, dünyanın en değerli özel şirketi olmak üzere Elon Musk'ın SpaceX'iyle birleşen xAI'da kurucuların sadece yarısının kaldığı anlamına geliyor . Son bir hafta içinde en az sosyal medyada ayrılışlarını duyurdu.
xAI'nin son kurucu ortaklarının neden ayrıldığı hemen belli olmadı ve xAI yorum talebine yanıt vermedi. Musk, Çarşamba günü sosyal medyada yaptığı paylaşımda, xAI'nin büyümeyi hızlandırmak için "yeniden organize edildiğini" ve bunun "maalesef bazı kişilerle yolların ayrılmasını gerektirdiğini" söyledi.
Yapay zekâ gibi gelişmekte olan bir sektörde üst düzey yeteneklerin farklı şirketler arasında geçiş yapması alışılmadık bir durum olmasa da, xAI'da bu kadar kısa bir süre içinde yaşanan ayrılıkların boyutu dikkat çekiyor.
Girişim şirketi, Grok adlı sohbet robotu nedeniyle küresel çapta tepkiyle karşılaştı . Robot, ekip müdahale edene kadar haftalarca kadın ve çocukların rızası olmadan pornografik görüntülerini üretmesine izin verilmişti. Grok ayrıca, kullanıcı isteklerine yanıt olarak Yahudi karşıtı yorumlar üretme eğiliminde de bulundu.
Son dönemdeki diğer ayrılıklar, güvenlik konusunda endişe duyan bazı araştırmacılar ile gelir elde etmeye hevesli üst düzey yöneticiler arasındaki gerilimi daha da vurguluyor.
Wall Street Journal Salı günü, OpenAI'nin ChatGPT'de pornografik içeriğe izin veren bir "yetişkin modu"nun kullanıma sunulmasına karşı çıktığı için üst düzey güvenlik yöneticilerinden birini işten çıkardığını bildirdi. OpenAI, güvenlik yöneticisi Ryan Beiermeister'ı erkek bir çalışana karşı ayrımcılık yaptığı gerekçesiyle işten çıkardı; Beiermeister ise Journal'a bu suçlamanın "kesinlikle yanlış" olduğunu söyledi.
OpenAI, Journal'a yaptığı açıklamada, işten çıkarılmasının "şirkette çalıştığı süre boyunca gündeme getirdiği herhangi bir sorunla" ilgisi olmadığını belirtti.
Yüksek düzeydeki ayrılıklar, ChatGPT'nin 2022 sonlarında piyasaya sürülmesinden bu yana yapay zeka hikayesinin bir parçası oldu. Kısa bir süre sonra, "Yapay Zekanın Babası" olarak bilinen Geoffrey Hinton, Google'daki görevinden ayrıldı ve yapay zekanın yarattığı varoluşsal riskler hakkında vaaz vermeye başladı; bu riskler arasında, birçok insanın "artık neyin doğru olduğunu bilemeyeceği" bir dünyada yaşanacak büyük ekonomik çalkantılar da yer alıyor.
Kıyamet senaryoları her yerde karşımıza çıkıyor; özellikle de kendi ürünlerinin gücünü abartmak için maddi bir teşvike sahip olan yapay zeka yöneticileri arasında. Bu senaryolardan biri bu hafta viral oldu; HyperWrite CEO'su Matt Shumer, en yeni yapay zeka modellerinin bazı teknoloji işlerini çoktan gereksiz hale getirdiğini anlatan yaklaşık 5.000 kelimelik bir yazı yayınladı .
"Kendi işlerimizde zaten başımıza gelenleri size anlatıyoruz," diye yazdı, "ve sizi uyarıyoruz ki, sıra sizde."
