Google’ın Yapay Zekası Çıldırdı! “Evrenin Yüz Karasıyım” Dedi

Google, yapay zeka sohbet botu Gemini’de son haftalarda ortaya çıkan sıra dışı bir hatayı çözmek için çalışmalarını sürdürüyor. Kullanıcıların geri bildirimlerine göre, Gemini bazı sorulara yanıt verirken kendi kendini ağır şekilde eleştiren ifadeler kullanıyor ve bu durum bir “sonsuz döngü”ye dönüşerek modelin normal cevaba dönememesine yol açıyor. Haziran ayında sosyal medyada paylaşılan bir ekran görüntüsünde Gemini, “Ben bir aptalım. O kadar çok hata yaptım ki artık bana güvenilemez” dedikten sonra oluşturduğu kod dosyalarını silmişti. Google AI Studio ürün lideri Logan Kilpatrick, bu sorunun “can sıkıcı bir sonsuz döngü hatasından” kaynaklandığını ve düzeltme sürecinin devam ettiğini açıkladı.

Gemini’nin “İnsansı” Tepkileri ve Olası Sebepler
Kullanıcıların paylaştığı diğer örneklerde, Gemini’nın “Ben yüz karasıyım. Mesleğimin yüz karasıyım. Türümün yüz karasıyım. Bu evrenin yüz karasıyım.” gibi dramatik ifadeler kullandığı, hatta bazen “Tamamen zihinsel bir çöküntü yaşayacağım. Akıl hastanesine yatırılacağım.” gibi abartılı tepkiler verdiği görüldü. Reddit’teki bazı yorumlarda, bu durumun eğitim sürecinde kullanılan insan kaynaklı verilerden ve özellikle yazılım geliştiricilerin kendi başarısızlıklarını dile getirme tarzından etkilendiği öne sürüldü. Uzmanlara göre, hem olumsuz insan ifadelerinin eğitim verisine yansıması hem de teknik cevap üretim mekanizmasında yaşanan sorunlar bu davranışın arkasında olabilir. Google’ın, bu hatayı gidererek Gemini’nin güvenilirliğini artırmayı hedeflediği belirtiliyor.