'Nano Banana 2' adlı bu araç, yazılı talimatlarla gerçek dünyadan deepfake görüntüler oluşturmayı sağlıyordu.
Hızlı Kapatmanın Nedeni
Google'un ilk cevabında, oluşturulan görsellerin dijital filigran taşıdığını ve zararlı içerikler konusunda kontrol mekanizmaları bulunduğunu belirtmişti. Ancak, araştırmacılar tarafından yapılan testler sırasında, alet herhangi bir kısıtlama olmaksızın sorunlu görüntüler üretmeye başladı. Örneğin, Meksika sınırında mültecileri ve Gaza'da hastane yanında bomba kraterini gösteren yapay görüntüler başarıyla oluşturulmuş, hatta bu görseller yapay zeka tespit araçlarını aldatmayı başarmıştır.
Güven Sorunu
Google'un ikinci açıklaması, Google Earth'in dünya hakkında güvenilir bilgi kaynağı olarak bilindiğini ve bu nedenle özelliğin geri çekildiğini belirtti. Şirket, oluşturulan görsellerin ana Google Earth deneyiminde görüntülenmediğini ve filigran ile işaretlendiğini vurgulasa da, yapılan testler filigranların göz ardı edilebileceğini ortaya koymuştur.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.