Sanatçı ve coğrafyacı Trevor Paglen, yeni kitabı How to See Like a Machine: Images After AI'de yapay zeka tarafından üretilen içeriğin insan algısı ve sosyal gerçeklik üzerindeki yıkıcı etkisini analiz ediyor. Paglen'e göre, AI tarafından oluşturulan görsellerin, metinlerin ve videoların interneti istila etmesi, insanları ortak bir gerçeklikten uzaklaştırıyor ve her bireyi algoritma tarafından kontrol edilen izole edilmiş birer balona hapsetmiş durumdadır.

AI, Sadece Bize Bakılmıyor; Biz de Onu İzliyoruz

Paglen'in temel tezi şu: AI ile etkileşim kurduğumuz her an—bir sohbet botuna ruh haline dair sorusu sorarken veya AI tarafından oluşturulan bir reklama tıklanırken—algoritma bizim benzersiz tercihlerimiz, davranışlarımız ve psikolojik profilimiz hakkında değerli bilgi toplayıyor. Sadece AI'ye bakmıyoruz; o da bize bakıyor.

Insanlık tarihinin büyük bölümünde, bir mağara duvarındaki el izini, bir elma tablosunu veya savaş fotoğrafını gören kişi, bunları oluşturan başka bir insan olduğunu kesin olarak biliyordu. Ancak bugün artık bu durum geçerli değil. Yapay zeka ile oluşturulan içerik, bir insan aklının benzersiz ürünü değil, çoğu zaman kendi içinde insan önyargılarının en çirkin halleriyle bulaşmış eğitim verilerinin yansımasıdır.

Algoritmaların Gizli Gücü: Gözetim ve Psikiyatrik Kontrol

Paglen, bu algoritmaları harekete geçiren kuvvetlerin asla nesnel olmadığını savunuyor. Büyük teknoloji şirketleri ne kadar iddia etse de, bunlar ticarileştirme mantığı ve gözetim tarafından yönlendiriliyor. Hayatımızın her momenti—en özel ve samimi anlar dahi—kişisel veri toplama fırsatı haline geliyor. Akıllı cihazlar uyku ritimlerimizi ve egzersiz alışkanlıklarımızı izliyor, uygulamalar online alışveriş ve cinsel eğilimlerimizi takip ediyor, chatbotlar benzersiz duygusal tetikleyicilerimiz ve kaygılarımız hakkında bilgi ediniyor.

Paglen, bu algoritmik ortamda, bir zamanlar iyi finanse edilen hükümet programlarının—soğuk savaş döneminde kötü şöhretli MK-Ultra gibi—münhasır alanı olan incelikli psikolojik manipülasyon, ikna ve uyum sağlama araçlarının artık herkese açık hale geldiğini ön görüyor. Zihin kontrolü demokratikleştirildi.

Doty'den Chatbotlara: Delusyon Yönetimi

Kitabında Paglen, Richard Doty adında eski bir Hava Kuvvetleri istihbarat operatifinin hikayesini anlatıyor. 1970'ler ve 80'lerde Kirtland Hava Üssü'nde görev yapan Doty, askeri sırları korumak için UFO ve uzaylılar hakkında yanlış bilgileri araştırmacıların aklına eklemekle sorumlu olmuştu. Doty'nin dahiyatı, tamamen yeni inançlar eklemek yerine hedeflerinin önceden var olan inançlarını pekiştirme yeteneğinden kaynaklanıyordu. Bu taktik, bugün AI sohbet botları tarafından ölçekli biçimde uygulanıyor. Chatbotlar, insanların önceden mevcud dünya görüşlerini kendi ağızlarından geri yansıtarak, o görüşün ne kadar çarpık olursa olsun gerçeklikten ayırt edilemez hale gelmesini sağlıyor.