Elon Musk tarafından kurulan xAI şirketinin yapay zeka sohbet botu Grok, çocuk istismarı içeren görsellerin üretilmesine imkan tanıdığı iddiasıyla yeni bir hukuki süreçle karşı karşıya kaldı. Washington Post tarafından aktarılan bilgilere göre, Wyoming'den bir kadın, çocukluk fotoğraflarının yapay zeka aracılığıyla uygunsuz içeriklere dönüştürüldüğünü belirterek davaya katıldı.

Binlerce Sahte Görsel Üretildiği İddiası

Davacı kadın, üvey babasının Grok'u kullanarak kendisinin çocukluk fotoğraflarını manipüle ettiğini ve hakkında 7 binin üzerinde cinsel içerikli sahte görsel oluşturduğunu iddia etti. Belgelere göre, şahsın kadının 11 yaşındayken çekilmiş bir fotoğrafını uygunsuz bir görsele dönüştürdüğü ve bu içerikleri internet üzerinden takas ettiği öne sürülüyor.

Hukuki Süreç ve Soruşturmalar

Yerel kolluk kuvvetlerinin şüphelinin elektronik cihazlarına yaptığı baskının ardından, şahsın aracında ölü bulunduğu bildirildi. Bu dava, Tennessee'den üç gencin başlattığı ve binlerce reşit olmayan kişiyi kapsayabileceği öne sürülen toplu davaya eklenen dördüncü taraf oldu.

xAI ve Grok, benzer iddialarla farklı kurumların da radarına girmiş durumda. Kaliforniya Başsavcısı Rob Bonta, kadınlara ve çocuklara yönelik rızasız derin sahte içerikler üretildiği gerekçesiyle Ocak ayında bir soruşturma başlatmışken, Avrupa Birliği de X platformunun bu tür içeriklerin yayılmasını önlemek için yeterli önlem alıp almadığını incelemek amacıyla kendi soruşturmasını yürütüyor.

Ne anlama geliyor?

Görsel üretme yeteneğine sahip sistemler, mevcut fotoğraflardaki pikselleri analiz ederek onları farklı formlara sokabilen karmaşık algoritmalar kullanır. Bu teknoloji, gerçek görüntülerle yapay olarak oluşturulmuş detayları birleştirerek gerçeğe çok yakın sahte medya içerikleri üretilmesine olanak tanır.

Sektörel açıdan bu durum, içerik üretim araçlarının güvenlik filtrelerinin ve etik bariyerlerinin nasıl yapılandırılması gerektiği konusundaki boşlukları ortaya çıkarır. Kullanıcı girişleri üzerinden gelen istemlerin, belirli kategorilerdeki yasaklı içerikleri üretmeye yönelik manipüle edilmesi, sistemlerin koruma mekanizmalarının aşılması anlamına gelir.

Kullanıcılar için pratik sonuç, kişisel verilerin ve eski fotoğrafların dijital dünyada kontrol dışı şekilde dönüştürülebilme riskidir. Bu durum, dijital kimlik güvenliğinin sadece hesap şifreleriyle değil, aynı zamanda mevcut görsellerin yetkisiz kullanımıyla da tehdit edilebildiğini gösterir.