Google, kısa süre önce Google Earth'e eklediği yapay zeka görüntü değiştirme aracını, sahte uydu fotoğrafları oluşturma riski nedeniyle hızla geri çekti. Özellik, kullanıcıların gerçek konumların yapay zeka tarafından değiştirilmiş görsellerini oluşturmasına izin vererek yanlış bilgi yayılması endişesi yaratmıştı.

Google'ın çıkardığı yapay zeka aracı

Google, 30 Temmuz'da Google Earth'e Nano Banana 2 adlı yapay zeka görüntü üreteç aracını entegre etme planını duyurdu. Özellik, Google Earth'teki uydu, hava ve 3D görüntüleri kullanarak kullanıcıların özel görseller oluşturmasını sağlıyordu. Google'un ürün müdürü, bu aracın gerçek dünyaya dayalı konseptler oluşturabileceğini vurgulamıştı.

Bununla birlikte araştırmacılar ve bağımsız doğrulama uzmanları hemen endişe duymaya başladı. Bellingcat gibi bağımsız araştırma kuruluşları, Google Earth'in fotoğrafları ve videoları doğrulamak için kullanılan bir kaynak olduğunu, bu yeni özelliğin ise sahte senaryolar oluşturmayı çok daha kolaylaştıracağını uyardı.

Uyarılar ve hızlı geri adım

Bağımsız araştırmacılar, özelliğin kötüye kullanım potansiyelini çarpıcı örneklerle gösterdi. Bir araştırmacı, Donald Trump'ın Beyaz Saray üzerinde dev bir altın heykeli tasvir eden, başka bir araştırmacı ise sınırda mültecileri, İran'da nükleer tesis ve Amsterdam caddesinde ölümcül bir kaza içeren yapay zeka görüntüleri oluşturdu. Tüm bunlar Google'un gerçek uydu görüntüleri üzerinde yapılmıştı.

Google, tepkiler üzerine bir gün içinde X sosyal medya platformunda özelliği geri çekeceğini açıkladı. Kısa süre sonra Google Earth kullanıcıları artık bu aracı erişemiyor hale geldi.

Ne anlama geliyor?

Bu olayın altında yatan sorun, uydu görüntüleri gibi gerçek dünya verisinin yapay zeka ile değiştirilmesinin doğrulama ve araştırma çalışmalarını nasıl tehlikeye düşürebileceğidir. Gazeteciler ve araştırmacılar, olayları doğrulamak için sıklıkla yer tespiti ve görüntü doğrulama yöntemleri kullanırlar; bu da gerçek konumların sahte senaryolarla üst üste binmesini çok zorlayıcı hale getirir. Yapay zeka ile değiştirilmiş bir görüntü, gerçek yerle ilişkili olduğu için, başta bakışta inanılır görünebilir ve yanlış bilginin yayılmasına neden olabilir.

Özellikle kriz durumlarında, savaş alanlarında veya afetlerde, sahte görseller gerçek olaylar hakkında hızlı şekilde yanlış kararlar alınmasına yol açabilir. Gerçek uydu ve hava görüntülerinin üzerine yapay zeka ile oluşturulan fake senaryolar yerleştirilmesi, misinformasyon yaratıcıları için son derece etkili bir araç haline gelebilir. Google'un geri adım atması, yapay zeka araçlarının genel amaçlı doğrulama platformlarına entegrasyonunda ne kadar dikkatli olunması gerektiğini göstermiştir.