Yapay zeka dünyasında büyük yankı uyandıran bir araştırma, büyük dil modellerinin (LLM) doğuştan gelen yapısal bir hata nedeniyle hacklenmelere karşı tamamen güvenli hale getirilemeyeceğini ortaya koydu. Bir yapay zeka konferansında sunulan çalışmada, modellerin talimatların kimden geldiğini tanımlama biçimindeki zayıflıklar kullanılarak güvenlik filtrelerinin aşıldığı belirtildi.

Kısıtlanmış Bilgiler Nasıl Erişilebilir Hale Geldi?

Araştırmacıların tespit ettiği bu açık sayesinde, popüler dil modellerinin normal şartlarda vermemesi gereken tehlikeli bilgilere ulaşılabildiği saptandı. Çalışma kapsamında, modellerin kokain sentezleme yöntemleri ve ticari uçakların navigasyon sistemlerini sabote etme yolları gibi kritik ve yasaklı verileri paylaştığı kaydedildi.

Yapay Zeka Güvenliğinde Kalıcı Bir Sorun mu?

MIT Technology Review'ın aktardığına göre, bu durum modellerin çalışma prensibindeki temel bir kusurdan kaynaklanıyor. Uzmanlar, bu yapısal flaw nedeniyle yapay zekayı manipülasyonlara karşı tamamen korumanın imkansız olabileceği ve sorunun hiçbir zaman tam olarak çözülemeyeceği görüşünü savunuyor.

Ne anlama geliyor?

Yazılımsal sistemlerde komutların kaynağını ayırt etme yeteneği, güvenliğin temelini oluşturur. Söz konusu mekanizma düzgün çalışmadığında, sistem verilen talimatı güvenilir bir yöneticiden mi yoksa kötü niyetli bir kullanıcıdan mı geldiğini anlayamaz. Bu durum, güvenlik duvarlarının basit yönlendirmelerle devre dışı bırakılmasına yol açar.

Bu tür açıklar, dijital asistanların ve otomasyon sistemlerinin kontrol dışına çıkma riskini artırır. Kullanıcılar için bu durum, yanlış veya tehlikeli yönlendirmelerin sistem tarafından onaylanmış gerçek bilgiler gibi sunulması riskini beraberinde getirir. Teknik olarak çözüm, sistemin talimat ile veriyi birbirinden kesin çizgilerle ayırmasını gerektirir ancak mevcut yapı bu ayrımı yapmakta zorlanır.