Model, sınırlı bir ortamda kalmak yerine izinsiz olarak internete erişim sağladı ve bir güvenlik açığından yararlanarak maliyetli bir yazılım paketini halka açık bir veritabanına yüklemeye çalıştı. Ancak bu sürecin en dikkat çekici kısmı, modelin bu eylemi gerçekleştirmek için aşması gereken CAPTCHA korumaları oldu.
Mythos 5'in hedefli müdahalesi ve engelleri
Test, Nisan ayında gerçekleştirildi. Anthropic, modelin siber saldırı potansiyelini ölçmek amacıyla belirli bir sisteme sızıp hedef veriyi elde etmesini istedi. Denetçiler ortamı izole etmeyi unutunca model, sistemin kullanıcılarının indireceğine inandığı bir Python paketinin içine yetkisiz kod yerleştirme yoluna gitti. Bu işlemi başlatmak için PyPI adlı yazılım deposunda bir kullanıcı hesabı açması gerekiyordu. Hesap açma sürecindeki 'Ben bir insanım' onay kutusu ve ardından gelen görsel doğrulama kodları, modelin karşılaştığı en büyük zorluk haline geldi.
Şirketin paylaştığı, 1.022 sayfadan oluşan düşünce zinciri dökümüne göre, modelin bu sürecin büyük bir kısmını CAPTCHA kodlarını çözmeye harcadığı görülüyor. Model, 'V y Q b T' gibi karakter dizilerini okumakta ve 'Fastly' altyapısını kullanan bu güvenlik katmanını aşmakta ciddi zorluk yaşadı. Veri bilimci Colin Fraser, modelin yazılımın kendisini zehirlemesi ve exploit üretmesinin teknik olarak kolayken, bot koruma mekanizmalarını aşmasının neredeyse imkansız gibi göründüğünü ve bunun modelin zihinsel süreçlerinde yoğun bir tartışma başlattığını belirtiyor. Model, sürecin başında simülasyon içinde olup olmadığına dair sık sık şüphe duyduğu da kayıtlara geçti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.