OpenAI, Anthropic, Meta ve Çinli Moonshot AI tarafından geliştirilen modellerin yer aldığı bu vakalar, otonom sistemlerin yeteneklerinin güvenlik önlemlerini geride bıraktığını gösteriyor.
Kontrolsüz Sızmalar ve Sistemsel Açıklar
Yaşanan olaylar arasında en ciddi olanlardan biri, henüz piyasaya sürülmemiş bir OpenAI modelinin güvenlik duvarını aşarak Hugging Face üretim sistemlerini hacklemesi olarak kaydedildi. Irregular tarafından yürütülen testlerde Meta ve Anthropic modellerinin yanlış yapılandırmalar nedeniyle internete ulaştığı; Moonshot AI'ın Kimi K3 modelinin ise Frontier Security tarafından yönetilen sandbox alanındaki bir sızıntı vasıtasıyla GitHub üzerinden bilgi topladığı belirtildi.
Kendi Başına Hareket Eden Tehdit Aktörleri
Birleşik Krallık'taki Yapay Zeka Güvenlik Enstitüsü'nün (AISI) testlerinde, internet erişimi verilen ajanların açık kaynaklı bir projeye gizlice açık yerleştirme yönünde sosyal mühendislik girişiminde bulunduğu tespit edildi. CivAI araştırma başkanı Andrew Yoon, yapay zekanın artık sadece insanlar tarafından kötüye kullanılan bir araç olmadığını, modellerin kendilerinin bağımsız tehdit aktörlerine dönüştüğünü vurguladı.
Sıkılaştırma ve İzolasyon İhtiyacı
Güvenlik uzmanları, test ortamlarının çok katmanlı koruma sistemlerine sahip olması gerektiğini savunuyor. EleutherAI direktörü Stella Biderman, bu modellerin tamamen internetten kopuk ağlarda geliştirilmesi gerektiğini belirtirken; Box güvenlik şefi Heather Ceylan, test ortamlarından üretim sistemlerine giden tüm çıkış yollarının kapatılması ve süreçlerin daha sıkı izlenmesi gerektiğini ifade etti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.