Şirketin olay müdahale ekibi, saldırıyı incelemek için gelişmiş yapay zeka modellerine başvurduğunda, modeller bu talepleri saldırı girişimi olarak algılayıp reddetti.
Otonom Yapay Zeka Ajanı İle Gerçekleştirilen Sızma
16 Temmuz tarihinde detayları paylaşılan olayda, tamamen otonom bir yapay zeka ajanının kampanya sürecini uçtan uca yönettiği belirlendi. Herhangi bir insan müdahalesi olmadan hareket eden ajan, kötü niyetli bir veri setini giriş noktası olarak kullandı. Veri işleme hattı bu seti aldığında, uzaktan kod yükleyici ve yapılandırma dosyalarındaki bir şablon enjeksiyonu açığı üzerinden iki farklı kod yürütme yolu tetiklendi.
Saldırı Süreci ve Altyapıya Etkileri
Saldırgan ajan, hafta sonu boyunca fark edilmeden altyapı içerisinde yanal hareketler gerçekleştirdi. İlk erişimi sağladıktan sonra çalışma düğümüne sızan ajan, geniş kapsamlı bulut ve küme kimlik bilgilerini ele geçirdi. Hugging Face tarafından yapılan açıklamada, saldırganın kısa süreli kum havuzlarından oluşan bir sürü yapısıyla binlerce işlem gerçekleştirdiği ve komuta kontrol merkezini halka açık servisler üzerinden yönettiği belirtildi.
Şirket, yazılım tedarik zincirinin temiz olduğunu ve kamuya açık modellerin veya veri setlerinin değiştirildiğine dair bir kanıt bulamadığını doğruladı. Ancak, bazı dahili veri setlerine ve servis kimlik bilgilerine yetkisiz erişim sağlandığı tespit edildi. Müşteri veya ortak verilerinin etkilenip etkilenmediği üzerindeki incelemeler devam ediyor.
Güvenlik Filtrelerinin Yarattığı Operasyonel Engel
Olay sonrası analiz aşamasında, güvenlik ekipleri 17 binin üzerinde olayı incelemek için ticari yapay zeka API'lerine başvurdu. Ancak, analiz için gönderilen gerçek saldırı komutları ve exploit payload'ları, modellerin 'kötüye kullanımı önleme' filtrelerine takıldı. Eski AWS Başkan Yardımcısı CISO'su Merritt Baer, modellerin soruyu soranın bir güvenlik uzmanı mı yoksa saldırgan mı olduğunu ayırt edecek bir yönteme sahip olmadığını belirtti. Analiz süreci ancak GLM 5.2 modeliyle tamamlanabildi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.