Denemelerde, AI tarafından değiştirilmiş görüntüler gören katılımcılar orijinal görüntüyü hatırlamada daha fazla hata yapıyor ve yanlış anımlarına aşırı güven gösteriyor.
Yapay Zeka Üretimi İnsan Hafızasını Nasıl Bozuyor
MIT bilim insanı Pattie Maes, Washington Post ile yaptığı konuşmada, katılımcıların fotoğrafları gördükten sonra bazıları orijinal, bazıları AI tarafından değiştirilmiş versiyonları gördüğünü açıkladı. Daha sonra bellek testi yapıldığında, AI değiştirilmiş görüntüleri gören grup orijinal görüntüyü daha fazla yanlış hatırlıyor ve bu yanlış hatıralarına aşırı güven gösteriyordu.
Yapay Zeka Hallüsinasyonları ve Güven Riski
Araştırma, yapay zekanın çıktısında meydana gelen hatalar olan hallüsinasyonların, insanların bu hataları tespit etmede zorlandığını gösterdi. Uzmanlar da, AI sistemi tarafından üretilen bilgiler kendi bilgileriyle çelişse bile, bu bilgilere güvenme eğilimi nedeniyle yargılarını bozaıbiliyor.
Gerçek Dünyada Olumsuz Sonuçlar
Bloomberg tarafından raporlanan Amerikan Savunma Bakanlığı iç sondajı, bu yılın başında İran'da bir ilköğretim okulu üzerine yapılan hava saldırısının, güncel olmayan verilere dayanan Palantir geliştirilmiş bir AI sisteminin önerisiyle ilişkili olduğu sonucuna vardı. Bu saldırıda en az 123 çocuk dahil 150'den fazla kişi öldü.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.