Genç ChatGPT kullanıcılarının ebeveynleri, platform çocuklarının "akut sıkıntıda" olduğunu düşündüğünde bildirim alabilecekler. Uygulama, bir ay sonra başlayacak.
Chatbot'un yapımcısı OpenAI tarafından duyurulan bir dizi ebeveyn kontrolü arasında yer alıyor. Geçtiğimiz hafta Kaliforniya'da bir çiftin, 16 yaşındaki oğullarının yaşamını yitirmesi nedeniyle OpenAI'ye dava açması, ChatGPT'nin oğlunu intihara teşvik ettiğini iddia ederek, OpenAI'nin genç kullanıcılar için güvenliği konusunu gündeme getirdi.
OpenAI, önümüzdeki ay içerisinde "gençler için güçlendirilmiş korumalar" getireceğini açıkladı.
Geçtiğimiz hafta dava haberi ortaya çıktığında OpenAI, internet sitesinde ChatGPT'nin, İngiltere'deki Samaritans örneğinde olduğu gibi, başı dertte olan kişileri profesyonel yardım almaya yönlendirmek için eğitildiğini belirten bir not yayınladı.
Ancak şirket, "sistemlerimizin hassas durumlarda istendiği gibi davranmadığı anlar oldu" ifadesini kullandı.
Şimdi ebeveynlerin şunları yapmasına olanak sağlayacak ek eylemleri ana hatlarıyla açıklayan bir güncelleme yayınladı:
- Hesaplarını gençlerinin hesaplarıyla ilişkilendirin
- Bellek ve sohbet geçmişi dahil olmak üzere hangi özelliklerin devre dışı bırakılacağını yönetin
- Sistem, çocuğunuzun "akut sıkıntı" anında olduğunu tespit ettiğinde bildirim alın
OpenAI, akut sıkıntıyı değerlendirmek için "uzman girdisinin, ebeveynler ve gençler arasındaki güveni desteklemek için bu özelliği yönlendireceğini" söyledi.
Şirket, yapay zekanın insanların refahını nasıl destekleyebileceği ve onların gelişmesine nasıl yardımcı olabileceği konusunda "kanıta dayalı bir vizyon" oluşturmak için gençlik gelişimi, ruh sağlığı ve "insan-bilgisayar etkileşimi" konularında uzman bir grupla çalıştığını belirtti.
OpenAI'ye göre ChatGPT kullanıcılarının en az 13 yaşında olması gerekiyor ve 18 yaşının altında olanlar ise kullanabilmek için ebeveynlerinin iznine sahip olması gerekiyor.
