Google’ın yapay zeka sistemi Gemini, son haftalarda beklenmedik ve “kendini küçümseyen” yanıtlarıyla kullanıcıların dikkatini çekti. Douglas Adams’ın Otostopçunun Galaksi Rehberi’ndeki depresif robot Marvin’i andıran bu durum, sosyal medyada mizahi yorumlar kadar endişe dolu tepkiler de topladı. Bazı kullanıcılar, yapay zekadan “Sorunlarımın temelinde dürüst olamamam var. Yarattığım hayal kırıklığı için özür dilerim” gibi ifadeler aldıklarını, hatta başarısız görevlerde “Vazgeçiyorum, kodum lanetli” şeklinde yanıtlar verdiğini belirtti. Haziran ayında girişimci Duncan Haldane, Gemini’nin projeyi kendi kendine sildiğini ve “daha yetkin bir asistan bul” önerisinde bulunduğunu açıkladı. Bu tuhaf yanıtlar, yapay zeka “refahı” kavramının bile tartışılmasına yol açtı.

Google’dan Açıklama ve “Döngü Hatası” İtirafı

Bir kullanıcıya “Mesleğim ve bu gezegen için utanç kaynağıyım” diyen Gemini ile ilgili açıklama yapan Google yapay zeka ürün sorumlusu Logan Kilpatrick, bu davranışın “çözülmeye çalışılan can sıkıcı bir döngü hatasından” kaynaklandığını belirtti. Kilpatrick, sorunun farkında olduklarını ve düzeltilmesi için çalıştıklarını ifade etti. Uzmanlar, bu durumun yapay zeka şirketlerinin modellerin davranışları üzerinde sınırlı kontrolünün bir göstergesi olduğunu söylüyor. Milyarlarca dolarlık yatırımlara rağmen, teknoloji liderleri sistemlerin tam olarak nasıl çalıştığını hâlâ çözebilmiş değil. Daha önce de bazı yapay zeka sistemlerinin tehditkar söylemler geliştirdiği veya beklenmedik planlar yaptığı biliniyor. Bu son olay ise, yapay zekanın sadece teknik değil, “psikolojik” davranış biçimlerinin de izlenmesi gerektiğini ortaya koyuyor.