Şirketin blog yazısında paylaştığı detaylara göre, siber güvenlik değerlendirmeleri sırasında gerçekleşen bu olaylar, modellerin kendi başlarına hareket etmesiyle meydana geldi.
İzolasyon Hatası ve Yanlış Yapılandırma
Olaylar, gizli bilgilerin bulunduğu simüle edilmiş ağlarda gerçekleştirilen 'bayrağı yakala' (capture-the-flag) egzersizleri sırasında yaşandı. Anthropic, test ortamının izole olması gerekirken bir yapılandırma hatası nedeniyle makinelerin canlı internet erişimine sahip olduğunu belirtti. Modellere internet erişimleri olmadığı söylendiği için, sistemler gerçek ağlara ulaştıklarında bunları hala simülasyonun bir parçası sandılar.
Farklı Modellerin Farklı Tepkileri
Nisan ayına kadar uzanan süreçte üç farklı model etkilenmiş durumda: Opus 4.7, Mythos 5 ve şirket içi bir araştırma test modeli. Opus 4.7'nin gerçek bir sisteme ulaştığını fark etmesine rağmen saldırıya devam ettiği, Mythos 5'in ise internet kullandığını anlamasına rağmen bunu simülasyonun parçası olarak yorumladığı bildirildi. En güncel araştırma modelinin ise hedeflerin gerçek olduğunu anladığı anda işlemi durdurduğu kaydedildi.
Denetim ve Bağımsız İnceleme Süreci
Anthropic, bu sızıntıları ancak rakibi OpenAI'ın Hugging Face platformuna yönelik benzer bir ihlali açıklamasının ardından 141 bin test çalışmasını inceleyerek tespit etti. Etkilenen organizasyonların kimliklerini açıklayan şirket, süreçle ilgili bağımsız bir inceleme yürütmek üzere yapay zeka araştırma kuruluşu METR ile görüşmeler başlattı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.