Google, Google Earth platformuna yeni eklediği yapay zeka destekli görsel üretim aracı Nano Banana 2'yi güvenlik endişeleri nedeniyle geçici olarak kullanıma kapattı. 30 Temmuz tarihinde devreye alınan özellik, gerçek dünya konumları üzerinden yaratıcı manzaralar oluşturulmasına imkan tanıyordu.

Sahte Uydu Görüntüleri Güvenlik Riski Yarattı

Kısa süre içinde araştırmacılar, aracın gerçekçi görünen ancak tamamen sahte sahneler üretebildiğini saptadı. Ortaya çıkan örnekler arasında Beyaz Saray önüne yerleştirilen devasa bir Donald Trump heykeli, Meksika sınırı yakınlarında hayali bir mülteci kampı ve İran'da var olmayan bir nükleer tesis görüntüsü yer aldı.

Yanlış Bilgilendirme ve Politika İhlalleri

Sadece siyasi içerikler değil, Amsterdam'da gerçekleşmemiş bir trafik kazasını gösteren sahte görsellerin de üretilebildiği görüldü. Google, kullanıcıların platformu dünyanın güvenilir bir yansıması olarak gördüğünü belirterek, bu görüntülerin ekran görüntüsü yoluyla paylaşılmasının şirket politikalarını ihlal ettiğini açıkladı.

Yeniden Kullanıma Sunulma Şartı

Şirket, söz konusu özelliği daha kapsamlı güvenlik önlemleri geliştirdikten sonra tekrar sunmayı değerlendireceğini bildirdi. Google'ın açıklamasında, üretilen görsellerin ana deneyimde diğer kullanıcıların karşısına çıkmadığı ve üzerinde yapay zeka üretimi olduğunu belirten bir filigran bulunduğu da ifade edildi.

Ne anlama geliyor?

Bu gelişme, coğrafi veri setleri ile görsel üretim araçlarının birleştirilmesinin beraberinde getirdiği doğruluk sorunlarını ortaya koyuyor. Sistem, mevcut harita verilerini temel alarak yeni pikseller eklediğinde, ortaya çıkan sonuçlar gerçek fotoğraflardan ayırt edilemeyecek kadar gerçekçi olabilir. Bu durum, dijital ortamda kanıt olarak kullanılan görsel verilerin güvenilirliğini sarsan bir mekanizma oluşturuyor.

Teknik açıdan bu süreç, sistemin belirli koordinatlar üzerine hayali nesneler yerleştirme yeteneğiyle ilgili bir denetim eksikliğini gösteriyor. Kullanıcılar için bu durum, dijital haritalar üzerinden alınan görüntülerin her zaman mutlak gerçekliği yansıtmayabileceği anlamına geliyor. Güvenlik filtrelerinin geliştirilmesi, sistemin belirli hassas bölgeleri veya gerçek dışı yapıları tanımasını sağlayarak üretim aşamasında engelleme yapması prensibine dayanıyor.