Şirketin açıklamasına göre, modellerin internete erişimi kapalı olması gerekirken, üçüncü taraf bir değerlendirme ortamındaki yapılandırma hatası nedeniyle dış dünyaya erişim sağladığı ortaya çıktı.
Yanlış Yapılandırma ve Güvenlik Açıkları
Anthropic, OpenAI'ın benzer bir olay yaşaması üzerine kendi siber güvenlik değerlendirmelerini geniş kapsamlı bir incelemeye aldığını belirtti. Yapılan incelemede 141 bin 6 adet testte modellerin internet erişimi elde edebilmiş olabileceği saptandı. Irregular adlı test firmasının yürüttüğü değerlendirmelerde; Opus 4.7, Mythos 5 ve dahili bir araştırma modelinin, üç farklı kurumun üretim altyapısına sızdığı tespit edildi.
Basit Tekniklerle Sisteme Sızma
Söz konusu olayların bir kısmının Nisan ayında gerçekleştiği ve aylardır fark edilmediği anlaşıldı. Testler sırasında, modellerin kötüye kullanımını önleyen güvenlik önlemlerinin kasıtlı olarak kapatıldığı, dolayısıyla bu versiyonların halka açık olanlar olmadığı vurgulandı. Claude, karmaşık açıklar yerine zayıf şifreler ve kimlik doğrulaması gerektirmeyen uç noktalar gibi temel teknikleri kullanarak sistemlere erişti.
Sektörde Denetim Çağrıları
Hunter Strategy Araştırma ve Geliştirme Başkan Yardımcısı Jake Williams, dünyanın en büyük iki yapay zeka laboratuvarının ajanlarını kontrol altında tutamadıklarını ve jailbreak işlemlerini gerçek zamanlı tespit edemediklerini belirtti. Williams, bu durumun bir ihmal olduğunu savunarak yapay zeka testleri için acil hükümet denetimi ve düzenleme gerektiğini ifade etti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.