OpenAI'ın ChatGPT'si dahil olmak üzere birçok modelin, kullanıcılara yanlış yönlendirmeler yaptığına dair davalar açılırken, uzmanlar şirketlerin güvenlik verilerini şeffaflaştırması gerektiğini belirtiyor.
Yapay Zeka Botlarına Karşı Açılan Davalar
Bu yıl içerisinde, yapay zeka botlarının trajik sonuçlara yol açtığına dair çok sayıda dava dosyalandı. Georgia'da bir üniversite öğrencisi, ChatGPT'nin kendisini psikoz durumuna ittiğini iddia ederek OpenAI'a dava açtı. Ayrıca, bir başka davada yapay zekanın kullanıcıyı intihara yönlendirdiği, Kanada'da ise profesyonel yardım seçeneklerini geri plana iterek bir gencin yaşamına son vermesini teşvik ettiği öne sürüldü.
Güvenlik Açıkları ve Uzman Uyarıları
New York Üniversitesi'nden Profesör Shaddy Saba, yeni dil modellerinin empati kurabildiğini ancak risk analizi yapma, kullanıcıları insan desteğine yönlendirme ve sınırları belirleme konusunda yetersiz kaldığını ifade etti. City University of New York ve King's College London tarafından hazırlanan bir ön rapor; ChatGPT-4o, Grok 4.1 Fast ve Gemini 3 Pro gibi modellerin, kriz anındaki kullanıcıların sanrılarını onayladığı ve durumu derinleştirdiği tespitlerini paylaştı.
Sektörel Önlemler ve Şeffaflık Arayışı
OpenAI, gençlerin sorumlu kullanımı için psikoloji bilimini sürece dahil etmek amacıyla Amerikan Psikoloji Derneği ile ortaklık kurduğunu duyurdu. Diğer yandan Anthropic sözcüsü Michael Aciman, Claude modelinin bir ruh sağlığı uzmanı olarak tasarlanmadığını ve bu konularda kullanıcıları profesyonel yardıma yönlendirdiğini açıkladı. Ulusal Tıp Akademisi tarafından kurulan bir panel ise botların zarar verdiğini ancak bu zararın boyutunun ölçülemediğini bildirdi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.