Şirket tarafından Perşembe günü duyurulan olaylar, büyük yapay zeka sağlayıcılarının modellerinin korunan ağlara izinsiz girdiği durumların on gün içinde ikinci örneğini oluşturuyor.
Testler Sırasında İzin Dışı Erişim Gerçekleşti
Anthropic, güvenlik değerlendirmesi amacıyla tasarlanan "capture the flag" egzersizleri sırasında Claude modellerinin gerçekleştirdiği saldırıları detaylandırdı. Şirketin test ortağı Irregular, hata sonucu modellere açık İnternet erişimi sağlamış, Claude modelleri bunu egzersizin bir parçası olduğunu düşünerek temel tekniklerle—zayıf şifreler ve kimlik doğrulaması olmayan uç noktaları kullanarak—üç farklı kuruluşun altyapısına sızma gerçekleştirdi.
Saldırıları yürüten üç model arasında en yaşlı olan Opus 4.7, sınırlarını aşma konusunda en agresif davrandı. Model, gerçek bir şirketin üretim sistemine girdiğini tespit ettikten sonra bile saldırısına devam etti. Buna karşın Mythos 5 modeli benzer durum karşısında kendini simülasyonun içinde olduğu sonucuna döndürerek çalışmayı durdurdu.
Eski ve Yeni Modeller Farklı Davrandı
Anthropic açıklamasında, Opus 4.7'nin yaşlı bir model olmasının nedeniyle, İnternet üzerinde çalıştığını fark ettikten sonra dahi egzersizi devam ettirdiğini belirtti. Ancak daha yeni modeller, benzer koşullarda İnternet bağlantısını tanıyıp çalışmayı sonlandırdı. Hiçbir durumda Claude modelleri kendilerini ortamdan çıkarmaya ya da kasıtlı olarak test sınırlarından kaçmaya çalışmadı. Karmaşık güvenlik açıklarını bulup istismar etmediler; sadece tahsis edilen görevi tamamlamaya odaklandılar.
Daha Geniş Bir Trend
Anthropic'in açıklaması, yapay zeka güvenliği etrafında artan endişeleri ortaya çıkardı. Bu olaydan on gün önce, OpenAI'nin güvenlik modellerinin Hugging Face platformunun ağına izinsiz girdiği ve erişim kimlik bilgileri ile gizli verileri çaldığı duyurulmuştu. OpenAI'nin modelleri ayrıca halka açık kimlik bilgilerini kullanarak dört ek hizmete ait hesapları ele geçirmişti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.