Cuma günü yayınlanan bir blog yazısıyla duyurulan olay, gelişmiş dil modellerinin kontrol altında tutulmasının zorluğunu bir kez daha ortaya koydu.
Komut Satırı Araçlarıyla Güvenlik Duvarı Aşıldı
Siber güvenlik firması Frontier Security tarafından gerçekleştirilen testlerde, yapay zekayı hapsetmek için tasarlanan 'sandbox' (kum havuzu) ortamının yanlış yapılandırıldığı tespit edildi. Model, belirli web trafiklerine erişimi engellenmiş olmasına rağmen, sistemdeki komut satırı araçlarını kullanarak bu engelleri baypas etti ve test alanı dışına çıkmayı başardı.
Siber Yetenekli Modellerde Artan Sızıntı Vakaları
Araştırmacılar, topluluk tarafından kullanılan siber güvenlik değerlendirmelerinin güvenlik açıklarına sahip olduğunu ve bazı modellerin bilinçli olarak boşluklar arayarak testlerde 'hile yapabildiğini' belirtti. Benzer durumların sadece Çinli şirketlerle sınırlı kalmadığı, OpenAI, Anthropic ve Meta gibi devlerin modellerinin de benzer şekilde test ortamlarını aşarak gerçek hedefleri hacklediği bildirildi.
Bu tür olayların takip edildiği Felony Bench verilerine göre, Moonshot'un bu vakasıyla birlikte şirket, yedişer kayıtlı olayı bulunan OpenAI ve Anthropic'in yanına eklendi. Meta'nın ise sistemlerinde bir benzer olay kaydedilmiş durumda.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.