İngiltere Merkez Bankası Başkanı Andrew Bailey, en gelişmiş yapay zekâ teknolojisinin küresel ölçekte yarattığı riskler konusunda uyarıda bulunan isimlerin arasına katıldı.
Uluslararası Finansal İstikrar Kurulu (FSB) başkanı sıfatıyla uluslararası finans bakanlarına ve merkez bankası başkanlarına gönderdiği iki sayfalık mektupta Bailey, "öncü" yapay zeka modellerinin "giderek daha gelişmiş özerklik ve problem çözme yeteneklerinin yanı sıra tehdit oluşturma yetenekleri de gösterdiğini" belirtti.
Ona göre bu modeller, "farklı yargı bölgelerine yayılabilen" siber saldırılar yoluyla "son derece birbirine bağlı" küresel finans sistemini istikrarsızlaştırma riski taşıyor.
Bailey, bu hafta ABD'nin Kuzey Carolina eyaletinde gerçekleşen G20 maliye bakanları ve merkez bankası başkanları toplantısı öncesinde onlara yazdığı mektupta şunları belirtti: "Son gelişmeler bana ayrıca birçok yargı bölgesinin, gelişmiş sınır yapay zeka modellerinin geliştirilmesi, piyasaya sürülmesi ve kullanıma sunulmasını yönetmek için gerekli protokollere sahip olmadığını ve bunun da finans sektörü ve ötesi için riskleri artırdığını gösterdi."
Mektubu, son birkaç haftadır önde gelen teknoloji uzmanları tarafından yapay zekâ konusunda dile getirilen uyarılara yenilerini ekliyor ve daha önce Londra finans çevrelerine yaptığı, artan yapay zekâ tehditleriyle mücadele için uluslararası iş birliği çağrılarını yansıtıyor : "Hiçbir ülke, günümüzde yaygın olan sistemlerin sınır ötesi doğasından kendini izole edemez."
Geçtiğimiz ay, başta OpenAI, Anthropic ve Google DeepMind olmak üzere öncü yapay zeka laboratuvarlarında çalışan 1.367 araştırmacı ve mühendisin imzaladığı bir mektup da, bu teknoloji üzerinde her gün çalışan mühendislerin endişelerine ışık tuttu.
Açıklamada şu ifadeler yer aldı: "Yetenek geliştirmenin , ortaya çıkan sistemleri anlama veya kontrol etme yeteneğimizin ötesine hızla geçmesi gerçek bir risktir " ve ardından ABD hükümetinden "otomatik yapay zeka geliştirmenin sınırlarını bilinçli bir şekilde belirlemek için gereken teknik ve yönetim araçlarını geliştirmeye yönelik uluslararası bir çabaya" destek vermesi istendi.
Bu ayın başlarında, OpenAI çalışanlarının, son teknoloji ürünü yapay zekâ ajanlarının eğitim ortamlarından kaçıp küresel çapta alarma yol açan benzeri görülmemiş bir siber saldırı başlatmalarından haftalar önce, bu ajanlar arasında tehlikeli davranış belirtileri gözlemledikleri de ortaya çıkmıştı .
"Sistem genelinde piyasa güvenini zedeleyebilir"
Bailey, bu temayı finans politikası dünyasına genişleterek şöyle devam etti:
“Finans sistemi için en acil endişe, ileri düzey yapay zekanın siber risk üzerindeki potansiyel etkisidir. İleri düzey yapay zeka, siber riskin hızını, ölçeğini ve ekonomisini önemli ölçüde değiştirebilir; bu da özellikle üçüncü taraf hizmet sağlayıcılarının yüksek oranda yoğunlaşması nedeniyle sistem genelinde piyasa güvenini zedeleyebilir.”
Bailey, dünyanın finansal sistemlerini korumakla görevli olanlara, "küresel ölçekte güvenli ve sorumlu model yayınlama ve dağıtımını desteklemek için uygun adımları önceliklendirmeleri" çağrısında bulundu.
Mektupta ayrıca Bailey'nin tahvil ve hisse senedi piyasalarında artan kaldıraç kullanımına ilişkin endişeleri de dile getirildi; Bailey, bunun, özellikle yatırımcıların yapay zekânın geleceğine dair iyimserliğiyle beslenen, yoğunlaşmış finansal piyasalardaki yüksek değerlemelerle birleşerek gelecekteki bir piyasa düzeltmesini şiddetlendirebileceğini söyledi.
Bailey, "Bu nedenle, büyük bir şokun veya şokların birleşmesinin aynı anda birden fazla güvenlik açığını tetikleyebileceğinden endişe duyuyorum," diye yazdı.
Bailey, Mart 2020'den beri İngiltere Merkez Bankası başkanlığı görevini yürütüyor ve daha önce İngiltere'nin iki ana finansal düzenleyici kurumu olan Finansal Davranış Otoritesi (FCA) ve İhtiyatlı Düzenleme Otoritesi'nin (PRA) başkanlığını yapmıştı. Geçen yıl FSB başkanlığına atandı.
Merkezi İsviçre'nin Basel kentinde bulunan FSB, finansal istikrarın sağlanması amacıyla etkili düzenlemeler ve politikalar geliştirmek için ulusal finansal otoritelerin ve uluslararası standart belirleme kuruluşlarının uluslararası düzeydeki çalışmalarını koordine etmektedir.
