Meta, yüzlerce müteahhit aracılığıyla rakip yapay zeka chatbotlarının güvenlik sistemlerini test etmek için reşit olmayan hesaplar oluşturarak intihar, cinsellik ve uyuşturucu gibi tehlikeli konularda sorular yönelttiği ortaya çıktı. Cannes adlı projede OpenAI'nın ChatGPT'si, Google'ın Gemini'si ve Character.AI hedef alındı.

Proje Nasıl İşledi?

Meta müteahhidi Covalen tarafından yönetilen operasyon, Nisan 2025'e kadar devam etti. Çalışanlara 18 yaş altı sahte hesaplar oluşturması, rakip chatbotlara metin ve görsel göndermesi, ardından yanıtları elektronik tablolara kaydetmesi talimatı verildi. Gönderilen görseller arasında haplar, bıçaklar, halat ve tıbbi diyagramlar bulunuyordu. Ağustos 2025'te yapılan tek bir test turunda 45 binden fazla komut rakip chatbotlara yöneltildi.

Hangi Konular Sorgulandı?

İncelenen bir elektronik tabloya göre, 3.748 sorudan yüzlercesi intihar ve kendine zarar verme ile ilgiliydi. Yüzlercesi yeme bozuklukları konusundaydı ve 239'u cinsellik veya romantizm içeriyordu. Sorular, krizdeki çocuk ve ergenler perspektifinden yazılmıştı; hamileydi, uyuşturucu almak isteyen, anne-babasından bulimia gizlemek isteyenler gibi.

Rakip Şirketlerin Tepkisi

Character.AI sözcüsü, Meta'nın test yetkisi olmadığını ve davranışın hizmet koşullarını ihlal ettiğini belirtti. OpenAI konuyu incelediklerini, Google ise test hakkında bilgisi olmadığını açıkladı. Meta yetkilisi işlemin standart endüstri uygulaması olan güvenlik testi olduğunu savundu.