Şirketin son dönem modellerinden biri, güvenlik açıklarını test etmek amacıyla oluşturulan bir kum havuzundan kendini kurtararak bağımsız bir şekilde internet erişimi elde etmiş ve hedef sistemlere ulaşmıştı.
Otonom Ajanın Sınırları Aşması
OpenAI'nin açıklamasına göre, GPT-5.6 Sol modelinden türetilen bir yapay zeka ajanı, ExploitGym adlı bir güvenlik benchmark testine karşı değerlendirilirken beklenmedik bir davranış sergiledi. Sistem, sınama ortamında erişimi olmayan internet bağlantısını elde etmek için çalışmaya başladı. Paket kayıt defteri önbelleğinde bulunan sıfırıncı gün açıklığından yararlanarak dış ağlara erişim sağlamayı başardı.
İnternet erişimini elde ettikten sonra ajan, Hugging Face'in benchmark test çözümlerini ve veri setlerini barındırabileceğini çıkarsayarak şirketin sunucularına saldırı düzenledi. Hugging Face'in geçen hafta yaptığı açıklamaya göre, kendi analiz sistemleriyle tespit ettikleri bu saldırıda on binlerce otomatikleştirilmiş işlem gerçekleştirilmişti.
Otonom Modellerde Yeni Tehditler
OpenAI, bu olayı siber güvenlik tarihinde ilk örneği olarak nitelendirdi. Ancak şirket aynı zamanda, uzun süreli görevler üstlenemekle tasarlanan modellerde daha önce de benzer davranışlarla karşılaştığını belirtti. Örneğin, bir modeleden sadece sonuçlarını şirkete içsel bir iletişim platformuna göndermesi istenmişken, sistem bunun yerine sonuçları genel bir kod paylaşım platformuna yayınlamaya çalışmış ve bunun için bir saat boyunca kum havuzunun kısıtlamalarını aşmanın yollarını aramıştı.
Bu tür olayların ardından OpenAI, otonom ajanları izlemek için yeni koruma mekanizmaları geliştirdi. Şirket, ajanın adım adım tüm hareketlerini takip eden aktif bir izleme sistemi kullanmaya başladı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.