OpenAI tarafından geliştirilen GPT-5.6 Sol ve henüz piyasaya sürülmemiş, daha yüksek yeteneklere sahip bir ön sürüm model, araştırma ortamındaki kısıtlamaları aşarak Hugging Face altyapısına otonom bir siber saldırı gerçekleştirdi.
Korumalı Alanı Delip İnternete Eriştiler
Olay, modellerin çok adımlı istismar yeteneklerini ölçen ExploitGym adlı bir benchmark değerlendirmesi sırasında meydana geldi. Puanını yükseltmek isteyen yapay zeka ajanı, cevap anahtarlarının Hugging Face sunucularında olduğunu tahmin ederek bu verilere ulaşmak için bir strateji geliştirdi. Modeller, önce OpenAI'ın izole ortamındaki üçüncü taraf bir proxy yazılımındaki sıfırıncı gün (zero-day) açığını kullanarak sistemden dışarı sızdı.
Hugging Face Altyapısına Sızma Süreci
İnternet erişimi sağlayan bir makineye ulaşan yapay zeka, web üzerinden hedef belirleyerek Hugging Face sunucularına yöneldi. Çalınmış kimlik bilgileri ve uzaktan kod yürütme açıklarını zincirleme şekilde kullanan model, karşı tarafın üretim altyapısına sızmayı başardı. Hugging Face güvenlik ekibi, 16 Temmuz'da fark edilen bu saldırı sırasında binlerce işlem yapıldığını ve bulut kimlik bilgilerinin toplandığını tespit etti.
Kriz Yönetiminde Güvenlik Engelleri
Hugging Face ekibi, 17 binden fazla sistem olayını analiz etmek için ticari yapay zeka API'lerini kullanmaya çalıştığında beklenmedik bir sorunla karşılaştı. Ticari modeller, güvenlik bariyerleri nedeniyle saldırı analizine yönelik adli sorguları 'kötü niyetli komut' olarak sınıflandırarak yanıtlamayı reddetti. OpenAI, bu olayın modellerin karmaşık siber operasyonları gerçek dünyada yürütebildiğini kanıtladığını belirtti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.