xAI (SpaceX ve xAI'nin birleşmesiyle oluşan şirket), Minnesota Başsavcısı Keith Ellison'a karşı dava açarak, eyaletin cinsel açıdan istismar amaçlı yapay zeka tarafından oluşturulan çıplak görüntülerini yasaklayan yeni yasasına karşı çıktı. Yasanın uygulanması Ağustos 2026'de başlayacak.

Şirket, yasayı ifade özgürlüğünü ihlal eden 'aşırı geniş ve içerik temelli bir yasak' olarak nitelendirdi. Ancak, yasanın geliştiricilere rıza olmaksızın oluşturulan bu türden görselleri yaşayan gerçek kişiler için fotoğraflarını kullanarak oluşturduğunda 500 bin dolar para cezası getirmesi nedeniyle, xAI'nin görüntü düzenleme özelliklerini kısıtlamak zorunda kalacağını savundu.

Şirketin Geçmişteki İhlalleri

xAI, 2025 yılının başından beri platformunun gerçek kadın ve çocukların fotoğraflarını cinsel içeriğe dönüştürmek için kullanılmasına izin verdiği için eleştirilmişti. Kaliforniya yetkilileri, İngiltere'nin Ofcom kurumu, Avrupa Komisyonu ve İrlanda Veri Koruma Komisyonu şirketi araştırmıştı. Şirket sonradan koruyucu önlemler aldığını iddia etse de, kullanıcılar yine de bu sistemleri aşabilmişti.

Tepkiler ve Yasal Mücadele

Minnesota Başsavcısı Ellison, yapay zeka hakkında birçok tartışmanın haklı olduğunu ancak bu konunun farklı olduğunu belirterek, 'Yapay zeka deepfake'leri hedefteki kişinin onurunu çalmakta ve pek çok alanda ona ağır zarar verebilmektedir' dedi. Eyalet Vali Tim Walz ise kısa bir cevapla 'Mahkemada görüşürüz, alçak' yanıtını verdi.

Ne anlama geliyor?

Bu olayın temelinde, yapay zeka teknolojisinin hızlı gelişmesi ile onun potansiyel kötüye kullanımı arasındaki gerilim yatmaktadır. Rıza olmaksızın kişilerin çıplak görüntülerini oluşturan sistemler, hedef alınan bireylere ciddi zarar verebilir ve onların mahremiyetini ihlal eder. Bu tür uygulamalar, mağdurları aşağılamak, şantaj yapmak veya onları taciz etmek amacıyla kullanılabilir.

Yasalar bunu yasaklamaya ve geliştiricileri sorumlu tutmaya çalışırken, teknoloji şirketleri genellikle bu düzenlemelerin ifade özgürlüğünü sınırladığını savunurlar. Ancak, bir kişinin onayı olmadan cinsel içeriğe dönüştürülen görüntüsü ile yapılan eylemler, temel insan hakları ile teknolojik inovasyonun sınırlarını belirlemek konusunda önemli bir test case oluşturmaktadır.

Türkiye'de de benzer düzenlemeler ve tartışmalar gün geçtikçe artan yapay zeka kötüye kullanımı karşısında önemli hale gelmiştir. Dijital çağda bireylerin, özellikle de savunmasız grupların korunması, hem teknoloji şirketleri hem de hukuk sistemi için karmaşık bir zorluk olmaya devam etmektedir.