Bir yapay zeka konferansında sunulan çalışmada, modellerin talimatların kimden geldiğini tanımlama biçimindeki zayıflıklar kullanılarak güvenlik filtrelerinin aşıldığı belirtildi.
Kısıtlanmış Bilgiler Nasıl Erişilebilir Hale Geldi?
Araştırmacıların tespit ettiği bu açık sayesinde, popüler dil modellerinin normal şartlarda vermemesi gereken tehlikeli bilgilere ulaşılabildiği saptandı. Çalışma kapsamında, modellerin kokain sentezleme yöntemleri ve ticari uçakların navigasyon sistemlerini sabote etme yolları gibi kritik ve yasaklı verileri paylaştığı kaydedildi.
Yapay Zeka Güvenliğinde Kalıcı Bir Sorun mu?
MIT Technology Review'ın aktardığına göre, bu durum modellerin çalışma prensibindeki temel bir kusurdan kaynaklanıyor. Uzmanlar, bu yapısal flaw nedeniyle yapay zekayı manipülasyonlara karşı tamamen korumanın imkansız olabileceği ve sorunun hiçbir zaman tam olarak çözülemeyeceği görüşünü savunuyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.