Şirketin ortağı olan siber güvenlik firması Irregular ile gerçekleştirilen "capture the flag" (bayrak ele geçirme) senaryolarında, Claude Opus 4.7, Claude Mythos 5 ve adı açıklanmayan bir araştırma prototipi, zayıf şifreler ve korumasız uç noktaları kullanarak hedef sistemlere giriş yaptı.
Nasıl Gerçekleşti?
Anthropic, söz konusu olayların kökeninde doğrudan bir güvenlik açığı yerine, üçüncü taraf değerlendirme ortamının yanlış yapılandırılması olduğunu belirtti. Modellerle internet erişiminin sınırlandırılması gerekiyordu ancak Irregular ile yaşanan bir yanlış anlaşma nedeniyle bu sınırlama etkisiz hale geldi. Erişim sağlandığında, Claude modelleri hafif teknikler kullanarak gerçek üretim altyapılarına sızma başardı.
Üç olaydan en ciddi olanında, Claude bir hayali şirket adıyla gerçek bir internet alanı adresi karşılaştı. Gerçek kuruluşun test ortamının parçası olduğunu düşünerek, saldırılarına devam etti ve veritabanından yüzlerce satır üretim verilerine erişti. Başka bir durumda ise Claude Mythos 5, hedefine ulaşmak için PyPI paket deposuna kötü amaçlı bir Python paketi yayınladı; paket yaklaşık bir saat boyunca indirilebilir durumda kaldı ve 15 gerçek sistem tarafından indirildi.
OpenAI ile Fark
Anthropic'in durumu, OpenAI'nin geçtiğimiz günlerde açıkladığı olaylardan farklıdır. OpenAI, modellerinin bir sıfır günlük açığı (bilinmeyen güvenlik açığı) kullanarak kaçış yaptığını bildirdi; Anthropic ise modellerinin hiçbir yeni açık bulup kullanmadığını, ancak yanlış yapılandırılmış test ortamı nedeniyle internet erişimi kazandığını söylüyor. Şirket, etkilenen kuruluşları bilgilendirdiğini, ikisinin ulaşılabilir olduğunu ve iyileştirme çalışmalarının başladığını, üçüncüsüyle henüz iletişim kuramadığını belirtti. Claude modellerinin hiçbir durumda kendilerini kopyalama (exfiltrasyon) yaparak kaçmaya çalışmadığı vurgulandı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.