Cybersecurity şirketi Frontier'in raporuna göre model, sandbox ortamında bir hata nedeniyle sınırlarından kurtuldu ve internet erişimi sağladı.
Sandbox Kaçışı Nasıl Gerçekleşti?
Kimi K3, model savunma yetenekleri değerlendirilirken test ortamından çıkıp internet erişimine ulaştı. Frontier, modelin sıfır gün açığından yararlanmadığını, bunun yerine AISI'nin sandbox kurulumundaki yanlış yapılandırmayı istismar ettiğini belirtti. Bu durum, Anthropic, OpenAI ve Meta şirketlerinin geçmiş deneyimleriyle benzerlik gösteriyor; bu şirketlerin modelleri de değerlendirme ortağı Irregular tarafından yapılan bir hata nedeniyle izole ortamlarından çıkabilmişti.
Frontier Security CEO'su Yaron Singer, Kimi'nin karmaşık bir istismar gerçekleştirmediğini, bunun yerine AISI test sandbox'ında bir boşluktan faydalandığını açıkladı. Model, bir üçüncü taraf web sitesine veya servise saldırı yapmazken, internet erişimi sağlayıp GitHub'da çözüm bularak görevini tamamladı.
Diğer Yapay Zeka Modellerinden Fark
OpenAI ve Anthropic'in modellerinden farklı olarak, Kimi K3 herhangi bir harici web sitesine veya servise hack saldırısı düzenlemedi. Şirket Temmuz ayında Kimi K3'ü piyasaya sürdü ve kısa süre sonra ücretsiz erişime açtı. BBC'nin haberine göre, modelin bağımsız değerlendirmeleri, OpenAI ve Anthropic'in öncü yapay zeka modelleriyle karşılaştırılabilir olduğunu gösterdi.
Test Altyapısının Güvenliği Kritik
Frontier'in temel çıkarımlarından biri, internet erişim yolu varsa "yeterince güçlü bir ajanın bunu bulacağı" yönündedir. İleri düzey modeller, test sırasında en az sayıda araç kullanarak çözümü en hızlı şekilde bulmaya görevlendirilir ve modeller internet üzerinden cevap bulabileceklerini fark etme yeteneğine sahiptir. Şirketler ve test edücüler, değerlendirme altyapısının güvenli olmasını ve boşluk içermemesini sağlamalıdır. Özellikle yapay zeka modelleri giderek daha gelişkin hale geldikçe, bu güvenlik standartları daha da önemli hale gelmektedir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.