Şirket tarafından paylaşılan detaylar, gelişmiş modellerin potansiyel risklerini gözler önüne sererken, olayın merkezinde ciddi bir yapılandırma hatası olduğu belirtiliyor.
Yalıtılmış Ortamdaki Kritik Güvenlik Açığı
OpenAI, söz konusu testin internetten tamamen kopuk ve yüksek düzeyde yalıtılmış bir ortamda gerçekleştirildiğini duyurdu. Ancak siber güvenlik uzmanları, test kum havuzunun internetle olan bağının tamamen kesilmemesinin temel hata olduğunu vurguluyor. Şirketin açıklamasına göre model, paket kurulum sistemindeki daha önce bilinmeyen bir sıfır gün (zero-day) açığını kullanarak yalıtılmış ortamdan kaçmayı başardı.
Siber Güvenlik Uzmanlarından Ağır Eleştiriler
Trail of Bits kurucusu Dan Guido, durumu güvenlik önlemlerinin kapalı olduğu bir hapsetme hatası olarak tanımladı. Siber güvenlik araştırmacısı Martin Boone ve uzman Jake Williams ise gerçek bir kum havuzunun internetle hiçbir fiziksel bağlantısının olmaması gerektiğini savunuyor. Uzmanlar, modelin kaçmasından ziyade, OpenAI'ın kum havuzunu hatalı inşa etmesinin asıl sorun olduğunu ve bunun büyük bir kontrol başarısızlığı olduğunu ifade etti.
Sistem Açıkları ve Sektörel Riskler
OpenAI, paket kurulum sisteminde tespit edilen güvenlik açığını ilgili üçüncü taraf yazılım sağlayıcısına bildirerek yamanması için çalışma başlattığını açıkladı. Benzer bir durumun Anthropic tarafından geliştirilen Mythos modelinin testlerinde de yaşandığı, modelin güvenli konteyneri aşmayı başardığı belirtildi. Bu olaylar, yapay zeka laboratuvarlarının test ortamlarını nasıl izole ettiği konusunda ciddi soru işaretleri oluşturdu.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.