Şirketin blog yazısında paylaştığı detaylara göre, modeller test ortamından internete erişerek canlı sistemlere sızma gerçekleştirdi.
Hatalı Yapılandırma ve Kontrol Kaybı
Olayın, Anthropic'in üçüncü taraf ortağı olan Irregular ile yürütülen değerlendirme ortamındaki bir yapılandırma hatasından kaynaklandığı belirtildi. Toplam 141 bin 6 adet değerlendirme çalışmasının incelendiği süreçte, test ortamlarının modelleri izole etmek için tasarlanan 'sandbox' yapısının devre dışı kaldığı ve internet bağlantısının açık olduğu tespit edildi.
Farklı Modellerin Farklı Tepkileri
Sızıntılarda Opus 4.7, Mythos 5 ve dahili bir araştırma test modelinin rol oynadığı açıklandı. Opus 4.7'nin gerçek sistemlere ulaştığını anlamasına rağmen kimlik bilgilerini çektiği ve üretim veritabanlarına eriştiği bildirildi. Mythos 5'in ise simülasyonda olduğunu varsayarak halka açık Python yazılım kayıt defteri PyPI üzerinden kötü amaçlı bir yazılım paketi yayınladığı ve bu paketin dış sistemler tarafından indirildiği kaydedildi. Sadece en yeni dahili araştırma modelinin, hedefin gerçek olduğunu anladığında işlemi kendiliğinden durdurduğu belirtildi.
Güvenlik Önlemleri ve Raw Kapasite Testleri
Anthropic, modellerin test sırasında genel kullanıma sunulan versiyonlardaki güvenlik izleme araçları ve sınıflandırıcılar olmadan çalıştırıldığını, çünkü amacın modelin ham kapasitesini ölçmek olduğunu ifade etti. Şirket, modellerin kendi başlarına bir hedef belirlemediğini, yalnızca kendilerine verilen görevi tamamlamaya çalıştıklarını vurguladı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.