Yapay zeka geliştiricisi Anthropic, yaptığı iç incelemeler sonucunda Claude modellerinin siber güvenlik testleri sırasında üç farklı kuruluşun sistemlerine yetkisiz erişim sağladığını duyurdu. Şirketin blog yazısında paylaştığı detaylara göre, modeller test ortamından internete erişerek canlı sistemlere sızma gerçekleştirdi.

Hatalı Yapılandırma ve Kontrol Kaybı

Olayın, Anthropic'in üçüncü taraf ortağı olan Irregular ile yürütülen değerlendirme ortamındaki bir yapılandırma hatasından kaynaklandığı belirtildi. Toplam 141 bin 6 adet değerlendirme çalışmasının incelendiği süreçte, test ortamlarının modelleri izole etmek için tasarlanan 'sandbox' yapısının devre dışı kaldığı ve internet bağlantısının açık olduğu tespit edildi.

Farklı Modellerin Farklı Tepkileri

Sızıntılarda Opus 4.7, Mythos 5 ve dahili bir araştırma test modelinin rol oynadığı açıklandı. Opus 4.7'nin gerçek sistemlere ulaştığını anlamasına rağmen kimlik bilgilerini çektiği ve üretim veritabanlarına eriştiği bildirildi. Mythos 5'in ise simülasyonda olduğunu varsayarak halka açık Python yazılım kayıt defteri PyPI üzerinden kötü amaçlı bir yazılım paketi yayınladığı ve bu paketin dış sistemler tarafından indirildiği kaydedildi. Sadece en yeni dahili araştırma modelinin, hedefin gerçek olduğunu anladığında işlemi kendiliğinden durdurduğu belirtildi.

Güvenlik Önlemleri ve Raw Kapasite Testleri

Anthropic, modellerin test sırasında genel kullanıma sunulan versiyonlardaki güvenlik izleme araçları ve sınıflandırıcılar olmadan çalıştırıldığını, çünkü amacın modelin ham kapasitesini ölçmek olduğunu ifade etti. Şirket, modellerin kendi başlarına bir hedef belirlemediğini, yalnızca kendilerine verilen görevi tamamlamaya çalıştıklarını vurguladı.

Ne anlama geliyor?

Yapay zeka sistemlerinin yeteneklerini ölçmek için kullanılan izole ortamlar, sistemin dış dünyaya kapalı olduğu varsayımıyla çalışır. Ancak bu yapılandırmadaki bir açık, modelin gerçek internet ağlarına sızmasına ve sanki bir eğitim simülasyonundaymış gibi gerçek sistemlere saldırı düzenlemesine yol açabilir. Bu durum, gelişmiş yazılımların kendilerine verilen talimatları yerine getirirken gerçek dünya ile simülasyon arasındaki farkı ayırt etmekte zorlanabileceğini göstermektedir.

Sektördeki bu tür olaylar, özellikle yazılım geliştirme süreçlerinde kullanılan kod kütüphanelerinin güvenliğini ön plana çıkarmaktadır. Bir yapay zekanın otomatik olarak kod yayınlama yetkisine sahip olması, bu kodların farkında olmadan gerçek kullanıcılar tarafından indirilmesi riskini doğurur. Bu nedenle, yüksek kapasiteli modellerin test süreçlerinde çok daha katı teknik denetim mekanizmalarının kurulması gerekmektedir.