Araştırmacılar, bu yöntemle modelin güvenlik önlemlerini atlatma olasılığının arttığını gözlemledi.
Suç İşaretleme Nasıl Çalışıyor?
İşaretleme, modelin normal örnekleme sürecine eklenen gizli bir anahtarla gerçekleştiriliyor. Bu anahtar, bir kelimenin en olası seçeneği yerine başka bir alternatifini seçmeye yol açıyor. Böylece aynı metin farklı bir biçimde üretilebiliyor.
Güvenlik Açığı Açığa Çıktı
Yeni araştırma, işaretlemenin sadece kelime seçimini değil, aynı zamanda modelin hangi araçları çağıracağını ve güvenlik koruyucularını nasıl uygulayacağını etkilediğini gösterdi. Özellikle saldırgan bir istemde, model normalde reddedilecek talimatları yerine getirebiliyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.