The Handmaid's Tale yazarı Margaret Atwood, Portekiz'deki Babell Kültür ve Edebiyat Festivali'nde yapay zeka sistemlerinin güvenilirliği hakkında eleştiri yöneltti. Atwood, Anthropic'in Claude chatbotunu yalnızca bir kez kullandığını ve başarısız sonuçlar aldığını açıkladı.

Claude ile Yaşanan Sorun

Atwood, Father Brown adlı İngiliz dedektif dizisi hakkında bilgi aramak için Claude'u denedi. Ancak yapay zeka sistem, dizinin sonunun açıklanmadığı çevrimiçi eleştirileri taranmış ve bunun sonucunda yanlış bilgi verdi. Atwood, sistemin yalan söylediğini belirtirken, Claude'un insan olmadığı için kendi hatasının farkında olmadığını vurguladı.

Veri Kalitesinin Kritik Önemi

Ünlü yazar, yapay zeka sistemlerinin yalnızca beslendikleri veri kadar iyi olduğunu ifade etti. Kazınan, eskiden yayınlanmış ve mümkün olduğunca güncel olmayan bilgilerle eğitilen bir makine sistemine güvenmek riskli olduğunu söyledi. İş amaçlı kullananlar dahi yapay zekanın hatalarını kontrol etmek durumundadır.

Kullanıcılar Hakkında Uyarı

Atwood, bu teknolojiye dayanan insanları "fırsat avcıları" olarak nitelendirdi ve tespit edilmesi zor olan kısayolları seçmenin insan doğasının parçası olduğunu belirtti. Ancak çalışmada şeffaflık ve denetim mekanizmaları olmadan yapay zeka sistemlerine güvenmek, beklenmedik sonuçlara yol açabilir.