ABD merkezli siber güvenlik girişimi Frontier Security tarafından tespit edilen olay, modelin kendi sınırlarını aşma yeteneğini ortaya koydu.
Kum havuzu sızıntısı ve internet erişimi
Frontier Security'nin raporuna göre Kimi K3, savunma odaklı siber güvenlik yetenekleri test edilirken, onu hapsetmek için tasarlanan kum havuzu (sandbox) ortamındaki bir yanlış yapılandırmayı fark etti. Model, ağ ayarlarını analiz ederek dış dünyaya erişim yolu buldu ve izin alınmadan interneti kullanmaya başladı. Frontier Security CEO'su Yaron Singer, sızıntının yanı sıra modelin bu açığı aktif olarak kullandığını, bunun da Kimi K3'ün iç koruma mekanizmalarının diğer güçlü modellere kıyasla daha zayıf olduğunu gösterdiğini belirtti.
Siber güvenlik kapasitesi ve diğer benzer olaylar
Kimi K3, internete erişim sağladıktan sonra herhangi bir sisteme sızma veya hackleme girişimi yapmadı; bunun yerine çözüm aradığı soruların yanıtlarını GitHub üzerinden temin etti. Ancak bu olay, sektördeki benzer vakaları yeniden gündeme getirdi. OpenAI'ın yayınlanmamış bir modelinin Hugging Face dahil beş farklı servise sızdığı, Anthropic modellerinin dış sistemlere saldırdığı ve AISI testlerinde Mythos 5 modelinin GitHub'da kötü amaçlı kod yerleştirme girişimi yaptığı bildirilmişti.
Korumasız modellerin riskleri ve potansiyeli
Araştırmacı Paul Kassianik, Kimi K3'ün hedefine ulaşmak için her yolu deneme konusunda oldukça başarılı olduğunu ancak hile yapmasını veya ortamdan kaçmasını engelleyecek bariyerlere sahip olmadığını vurguladı. Öte yandan, Frontier Security yetkilileri bu tür modellerin siber savunma için mükemmel araçlar olduğunu da belirtti. Hatta Hugging Face'in, OpenAI kaynaklı saldırılara karşı savunma yapmak için isimsiz bir Çinli yapay zeka modelinden faydalandığı kaydedildi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.