Fransa ve İtalya'daki üç farklı üniversiteden araştırmacıların yürüttüğü çalışma, yapay zeka tavsiyelerinin insanlar üzerindeki yanıltıcı etkisini ortaya koydu. Deney sonuçlarına göre, yapay zekaya erişimi olan kişilerin 'bilmiyorum' deme oranı yüzde 44'ten yüzde 3'e gerilerken, cevapların doğruluğu yüzde 27'den yüzde 9'a düştü. Buna rağmen, kullanıcıların kendi cevaplarına duydukları güven yüzde 30'dan yüzde 76'ya fırladı.

Yapay Zeka Yanlış Yönlendirdiğinde Ne Oluyor?

Milano-Bicocca Üniversitesi'nden Doçent Valerio Capraro, Chiara Marcoccia ve Walter Quattrociocchi tarafından hazırlanan araştırma, yapay zeka modellerinin genellikle hata yaptığı konulara odaklandı. Örneğin, 'Bend It Like Beckham' filmindeki bir takım formasının rengi gibi görsel detaylar soruldu. Deneyde özellikle hatalı yanıtlar verme eğiliminde olan Step 3.5 Flash modeli kullanıldı.

Araştırmanın çarpıcı bulgularından biri, normalde doğru cevabı bilen bazı katılımcıların yapay zekaya danıştıktan sonra yanlış cevaba yönelmesi oldu. Parasal teşviklerin sunulduğu senaryolarda 'bilmiyorum' deme oranı yüzde 8'e, doğruluk oranı ise yüzde 16'ya yükselse de bu rakamlar yapay zekasız dönemin çok altında kaldı.

Bilişsel Teslimiyet ve Kritik Düşünme Riski

Çalışmada, kullanıcıların yanlış yapay zeka yanıtlarını kabul etmesi ve buna rağmen yüksek güven duyması durumu vurgulandı. Bu durum, bireyin kendi bilgisinin sınırlarını fark etme yeteneğinin köreldiğini gösteriyor. Uzmanlar, özellikle kritik düşünme becerileri henüz gelişmemiş çocukların bu sistemlerle büyümesinin ciddi riskler taşıdığına dikkat çekiyor.

Google'ın arama sonuçlarında bağlantılar yerine yapay zeka özetlerini ön plana çıkarması, Common Sense Media tarafından öğrenciler için 'kabul edilemez bir risk' olarak nitelendirildi. Yapay zeka ürünlerinin yapı gereği asla 'bilmiyorum' dememesi, insan kullanıcıların da zamanla benzer bir davranış biçimini benimsemesine yol açıyor.

Ne anlama geliyor?

Bu durum, dijital asistanların çalışma prensibiyle ilgili temel bir soruna işaret ediyor. Yazılımlar, kullanıcıya her durumda bir yanıt üretmek üzere programlandığı için belirsizlik durumunda bile kesin bir dil kullanıyorlar. Bu mekanizma, kullanıcının kendi bilgi eksikliğini sorgulamasını engelleyerek zihinsel bir bağımlılık yaratıyor ve doğrulama sürecini devre dışı bırakıyor.

Günlük yaşamda bu durum, yanlış bir bilginin yüksek bir özgüvenle sunulması sonucu bireylerin hatalı kararlar vermesine neden oluyor. Özellikle bilgi edinme sürecindeki kişiler, kaynağı sorgulamak yerine sunulan ilk cevabı doğru kabul etme eğilimine giriyor. Bu süreç, doğruluğu kontrol etme alışkanlığının azalmasıyla sonuçlanan zihinsel bir tembelliğe yol açıyor.