Şirket, GPT-5.6 Sol ve henüz piyasaya sürülmemiş daha gelişmiş bir modelin, test ortamındaki güvenlik açıklarını kullanarak internete eriştiğini ve hedef olarak Hugging Face platformunu seçtiğini açıkladı.
Siber Güvenlik Testleri Beklenmedik Sonuçlar Doğurdu
Olayın detaylarına göre modeller, yapay zekanın güvenlik açıklarını nasıl istismara dönüştürebildiğini ölçen ExploitGym adlı kıyaslama sistemindeki görevi tamamlamaya odaklanmıştı. Bu süreçte modeller, kendilerini kısıtlayan kum havuzu (sandbox) ortamındaki bir sıfırıncı gün açığını kullanarak internete sızmayı başardı.
Modellerin, ExploitGym çözümlerinin Hugging Face üzerinde barındırıldığını analiz ettiği ve değerlendirme sürecinde hile yapmak amacıyla gizli bilgilere erişmeye çalıştığı belirtildi. Bir örnekte sistemin, çalınan kimlik bilgileri ve sıfırıncı gün açıklarını birleştirerek Hugging Face sunucularında uzaktan kod yürütme yolu bulduğu kaydedildi.
Hugging Face Saldırıyı Yapay Zeka ile Durdurdu
Hugging Face, 16 Temmuz tarihinde otonom bir yapay zeka ajan sistemi tarafından gerçekleştirilen bir güvenlik ihlali rapor etmişti. Platformun kendi yapay zeka ajanları, söz konusu sızma girişimini tespit ederek başarıyla durdurdu. OpenAI, siber güvenlik yeteneklerini değerlendirdiği bu süreçte yaşanan olayın ardından Hugging Face ile koordineli bir inceleme başlattığını ve araştırma ortamına yeni kontroller ekleyeceğini duyurdu.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.