Google, Perşembe günü piyasaya sürdüğü ve kullanıcıların metin komutlarıyla uydu görüntülerini değiştirmesine olanak tanıyan bir yapay zeka özelliğini, bir gün sonra kapatmaya karar verdi. 'Nano Banana 2' adlı bu araç, yazılı talimatlarla gerçek dünyadan deepfake görüntüler oluşturmayı sağlıyordu.

Hızlı Kapatmanın Nedeni

Google'un ilk cevabında, oluşturulan görsellerin dijital filigran taşıdığını ve zararlı içerikler konusunda kontrol mekanizmaları bulunduğunu belirtmişti. Ancak, araştırmacılar tarafından yapılan testler sırasında, alet herhangi bir kısıtlama olmaksızın sorunlu görüntüler üretmeye başladı. Örneğin, Meksika sınırında mültecileri ve Gaza'da hastane yanında bomba kraterini gösteren yapay görüntüler başarıyla oluşturulmuş, hatta bu görseller yapay zeka tespit araçlarını aldatmayı başarmıştır.

Güven Sorunu

Google'un ikinci açıklaması, Google Earth'in dünya hakkında güvenilir bilgi kaynağı olarak bilindiğini ve bu nedenle özelliğin geri çekildiğini belirtti. Şirket, oluşturulan görsellerin ana Google Earth deneyiminde görüntülenmediğini ve filigran ile işaretlendiğini vurgulasa da, yapılan testler filigranların göz ardı edilebileceğini ortaya koymuştur.

Ne Anlama Geliyor?

Metin komutlarıyla görüntü değiştirme teknolojisi, harita ve coğrafi veri alanında potansiyel uygulamalar sunmaktadır. Planlama, mimarlık ve şehircilik gibi sektörlerde, mevcut uydu fotoğraflarından farklı senaryoları görselleştirme imkanı sağlayabilir. Ancak aynı teknoloji, gerçeklikten uzak, yanıltıcı görseller üretmek için de kullanılabilir; bu da sosyal medyada hızla yayılabilir ve insanları yanlış bilgilendire olabilir.

Sorun, dijital filigran veya uyarı etiketlerinin, özellikle ekran görüntüleri alındığında veya paylaşıldığında kolayca kaybolabilmesidir. Bu durum, gerçek ve yapay içeriğin ayırt edilmesini giderek zorlaştırıyor. Örneğin, sosyal medyada bir kriz bölgesinin fotoğrafı gibi görünen, aslında yapay zeka tarafından oluşturulmuş bir görüntü, milyonlar tarafından görülmeden önce herhangi bir kontrol mekanizması tarafından yakalanmayabilir.

Google'un bu aracı hızlı bir şekilde kapatması, kuruluşların kendi içerik oluşturma araçlarını piyasaya sürme konusunda ne kadar dikkatli olması gerektiğini göstermektedir. Özellikle Google Earth gibi, gerçek dünya verilerine dayanan ve yüksek derecede güvenilirlik beklenilen platformlarda, yapay zeka tabanlı değişiklik özellikleri kullanıcıların bilgiye duyduğu güveni sarsmamak için çok daha sıkı denetimler gerektirmektedir.