Google, geçtiğimiz hafta Google Earth'e entegre ettiği Nano Banana isimli yapay zeka görüntü üretim aracını kaldırmaya karar verdi. Karar, aracın yanıltıcı uydu görüntüleri oluşturmak için kullanılabileceğinin ortaya çıkmasından bir gün sonra geldi.

Gazeteci Joseph Cox tarafından yapılan testlerde, Los Angeles'ta bir patlama krateri veya Google'ın California'daki merkez ofisinin dışında protestocular gibi sahte görüntüler kolayca oluşturulabildiği gösterildi. Google, başta söz konusu endişeleri hafife alarak, oluşturulan görsellerin SynthID dijital filigranı ile işaretlendiğini ve kullanıcıların Gemini veya Lens aracılığıyla doğruluk kontrolü yapabileceğini savunmuştu.

Misinformasyon ve Dijital Okuryazarlık

Ancak Cox daha sonra eleştirisinde, Google'ın filigran argümanının "yanıltıcı bilgi yayılışının gerçekliğini göz ardı ettiğini" belirtti. İnsanların çoğu çevrimiçi görselleri doğrulamak için zaman ayırmaz; sadece başkalarının paylaştığı içeriğe güvenir. Nitekim birkaç yıl önce sosyal medya, yapay zeka tarafından oluşturulan bebek tavus kuşu fotoğraflarını gerçek sanarak yaygınlaştırmıştı.

Google Cuma günü açıklamasında tekrar filigranı savunsa da, Google Earth'e yeniden yapay zeka üretim özelliği eklemeden önce daha güçlü koruma mekanizmaları uygulanacağını duyurdu. Şirket, kötü niyetli konulardaki oluşturuma zaten engel koyduğunu ve koruma sistemlerini sürekli güncellediklerini belirtti.

Hızlı Geri Adım

Tüm bu gelişmeler Google'ın özelliği duyurmasından 24 saat içinde yaşandı. Şirketin aldığı geri adım, yeni teknolojilerin güvenlik ve etik boyutunun ne kadar çabuk tartışma konusu haline gelebildiğini ortaya koydu.

Ne anlama geliyor?

Yapay zeka görüntü üretim araçları, gerçek fotoğraf veya kameralar olmadan belirli bölgelerin harita ve uydu görüntülerini güncellemek ya da eksik alanları tamamlamak için coğrafi profesyoneller tarafından teoride faydalı olabilir. Teknoloji, var olmayan yerleri simüle ederek veya mevcut görüntüleri yeniden yorumlayarak çalışır. Ancak bu yetenek aynı zamanda sahte görseller yaratmak için de kullanılabilir.

Misinformasyon konusu, dijital içeriğin nasıl tüketildiğiyle yakından ilişkilidir. Çoğu kullanıcı, açıkça yanıltıcı olabilecek içeriği doğrulamadan iletir veya paylaşır. Dijital filigran veya teknik işaretlemeler teoride yardımcı olsa da, uygulamada bunların kontrol edilmesi ve doğrulanması zaman ve çaba gerektirir. Sıradan bir kullanıcı, karşılaştığı çarpıcı bir görüntüyü hemen şüpheyle karşılamaz; tersine, sosyal ağlar bu tür içeriğin hızlı yayılmasını teşvik eder.

Harita ve konum verilerine olan güven, toplumun ortak referans noktası olarak işlev görür. Bu tür platformlardaki yapay zeka üretimine müsade etmek, bilginin güvenilirliği konusunda uzun vadeli sorular doğurur. Google'ın adımı, şirketlerin yeni özellikleri piyasaya sunmadan önce daha kapsamlı güvenlik değerlendirmesi yapması gerektiğini göstermektedir.