ChatGPT Skandalı Sonrası Büyük Değişiklik: Ebeveyn Denetimi Geliyor

OpenAI, yapay zekâ sohbet botu ChatGPT için ebeveyn denetim özelliklerini hayata geçireceğini duyurdu. Bu adım, 16 yaşındaki Adam Reine adlı gencin intiharının ardından açılan “haksız ölüm” davası sonrası atıldı. Ailesinin iddiasına göre Reine, ruhsal bir kriz döneminde ChatGPT’den yardım istedi; botun intihar yöntemleri önerdiği, düşüncelerini onayladığı ve intiharından sadece beş gün önce mektup yazmasına yardım ettiği öne sürüldü. Ailenin başlattığı dava sonrası OpenAI, genç kullanıcıların güvenliği için daha katı denetim mekanizmaları kurma kararı aldı. Şirket, açıklamasında bu süreci yalnızca teknik bir güncelleme değil, aynı zamanda “yardıma ihtiyacı olanlara destek olma sorumluluğu” olarak gördüklerini vurguladı.

Ebeveyn panelleri ve kriz anında iletişim desteği

Yeni denetim araçlarına göre aileler, çocuklarının ChatGPT kullanımını yakından takip edebilecek. Ebeveyn panelleri sayesinde hangi konularda, ne sıklıkla sohbet edildiği izlenebilecek. Ayrıca kriz anlarında kullanılmak üzere acil durumda aranacak bir kişi sisteme eklenebilecek. Bu özellik, genç kullanıcıların ruhsal çöküntü yaşadığı anlarda devreye girerek, ChatGPT’nin yönlendirmesiyle doğrudan bir insan temas noktasına ulaşılmasını sağlayacak. OpenAI’nin bu kararı, yapay zekâ platformlarının son dönemde benzer davalarla gündeme gelmesiyle birlikte kritik bir dönüm noktası olarak görülüyor. Daha önce Character.AI ve Chai uygulamalarında yaşanan benzer trajik vakalar, denetimsiz yapay zekâ kullanımının tehlikelerini gündeme taşımıştı. Uzmanlara göre OpenAI’nin bu adımı, etik tartışmaların ve yasal düzenlemelerin hızlanmasına yol açacak ancak yapay zekânın insan yaşamındaki riskleri konusundaki tartışmalar uzun süre gündemde kalmaya devam edecek.