Meta, "Muse Image" adlı yeni bir yapay zeka görüntü üretim özelliğini piyasaya sürdü. Kullanıcılar bu araç sayesinde orijinal görseller oluşturabiliyor, mevcut fotoğrafları düzenleyebiliyor ve uygulamalar içinde özel reklamlar üretebiliyor. Ancak özelliğin bir yönü hızla tartışma konusu haline geldi: kamu hesaplarından fotoğraflar kullanılarak yapay zeka görselleri oluşturulabiliyor.

Rızaya İhtiyaç Olmadan Fotoğraf Kullanılabiliyor

Muse Image, halka açık Instagram hesaplarından fotoğrafları kullanarak yapay zeka görselleri oluşturmaya izin veriyor. Bir profil kamuya açık olduğu sürece, başka bir kullanıcı o hesabı etiketleyebiliyor ve fotoğraflarını yapay zeka tarafından üretilen bir görüntünün parçası haline getirebiliyor. Yalnızca özel hesaplar ve 18 yaşın altındaki kullanıcılar otomatik olarak bu özellikten muaf tutuluyor.

Kullanıcıların, halka açık fotoğraflarının yabancılar tarafından yapay zeka görselleri içinde kullanılabileceğini bilmeyebileceği ve bu tür yeniden kullanımları hiç haberdar olmadıkları önemli bir sorun. Fotoğrafları manipüle etmeyi kolaylaştırmak, taciz, kimlik avı ve rızasız görüntü düzenlemesi gibi istismarların kapısını açıyor.

Meta'nın Gizlilik Geçmişi Tepkiyi Artırıyor

Özellik, yapay zeka araçlarının sosyal medya platformlarına giderek daha fazla entegre edildiği bir dönemde ortaya çıkıyor. Teknoloji şirketleri yeni üretken yapay zeka özelliklerini piyasaya sürerken, birçok uzman daha güçlü gizlilik korumaları ve uygulamalar hakkında daha fazla açıklık gerektiğini savunuyor. Pew Research Center'ın anketine göre, katılımcıların yüzde 35'i yapay zekanın artan kullanımı konusunda heyecanlandığından daha kaygılı olduğunu belirtmiş.

Meta'nın gizlilik konusundaki sicili, yeni yapay zeka özelliğinin çevresinde şüphecilik oluşturmaya katkıda bulundu. 2019'da ABD Federal Ticaret Komisyonu (FTC), Facebook'a 5 milyar dolar ceza kesmiş; platform 2012'de yapılan bir rıza emrine ihlal ederek kullanıcıları kişisel bilgileri üzerinde sahip oldukları kontrol hakkında yanıltmış bulunmuştu.

Ne anlama geliyor?

Görüntü oluşturan yapay zeka sistemleri, mevcut fotoğraflardan öğrenerek yeni görseller üretebiliyor. Bunu yaparken, kaynağı olan orijinal resimlerin yanı sıra tüm veri tabanını inceliyor. Halka açık bir hesaptan gelen fotoğraflar, bu sistemler için eğitim materyali ve üretim kaynağı olarak işlev görebiliyor; başka bir kişi etiket yoluyla bu içeriği yeni görüntülerde yeniden kullanabiliyor. Bu durum, fotoğraf çeken kişinin herhangi bir onay vermeden, kimliğinin veya görüntüsünün manipüle edilmesini mümkün kılıyor.

Sosyal ağlarda gizlilik endişesi giderek artıyor. Kullanıcılar genel olarak kişisel verilerinin nasıl toplanıp kullanıldığından emin olamıyor. Özellikle halka açık paylaşılan içerik, izinsiz AI sistemlerine dahil edilebiliyor. Bu tür uygulamalar, insanların çevrimiçi olarak paylaştıklarının kontrolünü kaybettiğini hissettiriyor. Birçok platform, bu teknolojileri sunarken kullanıcıları seçim yapma şansı vermeden ve neler olacağı konusunda tam bilgilendirmeden devam ediyor.

Opt-out (dışlanma) seçeneğinin sunulması, kullanıcılara belirli uygulamalardan çıkma imkanı veriyor; fakat bunu bulup uygulamak kullanıcının sorumluluğunda oluyor. Erişim kontrolü, etkin rıza ve veri gizliliği, platformlar hızlı şekilde yeni özellikler sunarken tartışılan konular haline gelmiş durumda.