Avustralya’da küçük bir spor salonu işleten Rochelle Marinato, sosyal medya üzerinden yürüttüğü pazarlama faaliyetleriyle müşterilerine ulaşıyordu. "Pilates World" adlı işletmesinin Instagram hesabında sevimli köpeklerinin yer aldığı masum bir fotoğraf paylaşan Marinato, hiç beklemediği bir durumla karşılaştı. Yapay zeka destekli içerik denetim sistemleri, söz konusu fotoğrafı “çocuk istismarı, çıplaklık ve kötüye kullanım” kapsamında değerlendirerek hesabını kalıcı olarak kapattı.

İlk başta bunun basit bir hata olduğunu düşünen girişimci, Instagram’ın bağlı olduğu Meta’dan gelen otomatik mesajla adeta şok yaşadı. 22 ayrı e-posta göndermesine rağmen hiçbir gerçek kişiye ulaşamayan Marinato, telefon ya da doğrudan iletişim kanalı bulunmamasından dolayı çaresiz kaldığını ifade etti. "Bir insan baksaydı, fotoğrafın masum olduğunu hemen anlardı" diyerek yaşadığı hayal kırıklığını dile getirdi.

Hesabın kapatılması sadece bir sosyal medya sorunu değildi; aynı zamanda işinin ana iletişim ve reklam kanalı kesilmişti. Marinato, üç hafta içinde gelirlerinin yüzde 75 oranında azaldığını ve geçen yıla göre yaklaşık 50 bin dolar yani yaklaşık 2 milyon TL zarar ettiğini söyledi. Instagram hesabını geri alabilmek için üçüncü taraf bir firmaya ödeme yapmak zorunda kaldı.

Olayın yalnızca kendi başına gelmediğini belirten girişimci, Meta'nın yapay zekâ moderasyon sisteminin dünya genelindeki küçük işletmelere ciddi zararlar verdiğini öne sürdü. “Yapay zekânın bu kadar büyük bir güce sahip olup bu kadar hata yapması çok tehlikeli” diyen Marinato, dijital denetimin yeniden insan temelli yapılması gerektiğini savundu.