San Francisco Şehir Savcısı David Chiu, yapay zeka destekli 'nudify' uygulamalarının kaldırılması için Apple ve Google firmalarına resmi durdurma ihtarnameleri gönderdi. İki teknoloji devinin uygulama mağazalarında bulunan toplam 13 uygulamanın, kişilerin rızası olmadan müstehcen derin sahte görüntüler oluşturmaya imkan tanıdığı belirtiliyor.

Mağazalardaki Denetim Zafiyeti ve Gelir İddiaları

Savcı Chiu, teknoloji şirketlerinin söz konusu uygulamalardan elde edilen uygulama içi ödemeler vasıtasıyla milyonlarca dolar kazanmış olabileceğini öne sürdü. Bu durumun önüne geçilmesi için uygulama mağazalarındaki moderasyon süreçlerinin iyileştirilmesi gerektiğini vurgulayan Chiu, şirketlerin bu platformlar aracılığıyla rızasız içeriklerin yayılmasına aracılık ettiğini savundu.

Çocukların Erişimi ve Politika İhlalleri

Tech Transparency Project tarafından hazırlanan bir rapor, bu tür uygulamaların Apple ve Google'ın denetimlerinden sıklıkla geçtiğini ortaya koydu. Raporda, bazı uygulamaların uygulama mağazalarında aktif olarak tanıtıldığı ve 'Herkes' (E) şeklinde derecelendirildiği için çocukların da bu içeriklere erişebildiği iddia edildi. 'Nudify' veya 'undress' gibi basit aramalarla bulunan bu uygulamalar, her iki şirketin cinsel içerikli materyalleri yasaklayan politikalarıyla çelişiyor.

Şirketlerin Yanıtı ve Genel Sektör Durumu

Google tarafından yapılan açıklamada, nudify özellikli yüzlerce uygulamanın silindiği ve bunların beşinin Savcı Chiu tarafından bildirildiği ifade edildi. Google, cinsel içeriği yasaklayan politikalarını yineleyerek ihlal durumunda hızlı aksiyon aldıklarını belirtti; Apple ise konuyla ilgili herhangi bir yorum yapmadı. Benzer sorunlar Meta'nın Gözetim Kurulu tarafından dile getirilirken, Elon Musk'ın xAI şirketi de rızasız derin sahtelerle ilgili çeşitli davalarla karşı karşıya kalmış durumda.