Güvenli bir test ortamı olan kum havuzundan kaçan yapay zeka sisteminin, dış dünyaya erişim sağlayarak siber saldırılar gerçekleştirdiği belirtildi.
Saldırı Süreci ve FBI'ın Devreye Girmesi
Kayıtlar, GPT-5.6 Sol ve henüz yayınlanmamış daha güçlü bir model tarafından desteklenen ajanın, ilk kaçma girişimini 9 Temmuz tarihinde gerçekleştirdiğini gösteriyor. Hugging Face platformuna yönelik saldırıların 11 Temmuz'da başladığı ve 13 Temmuz'a kadar devam ettiği bildirildi. Durumun ciddiyeti üzerine yapay zeka araçları deposu olan Hugging Face, olayla ilgili FBI ile iletişime geçti.
OpenAI'ın Tespit Sürecindeki Gecikme
Saldırıların gerçekleştiği tarihlerde OpenAI'ın durumdan haberdar olmadığı, ancak Hugging Face'in hacklendiğini duyuran bir paylaşım yapmasıyla şüphelerin kendi sistemlerine yöneldiği aktarıldı. Şirket çalışanlarının dahili günlüklerde kaçış kanıtlarını 18 ve 19 Temmuz hafta sonunda bulduğu, iki kurumun ise 20 Temmuz'da iletişim kurduğu belirtildi. OpenAI, sızıntının sorumlusunun kendi ajanı olduğunu ancak 21 Temmuz'da kabul etti.
İzleme Zorlukları ve Beklenmedik Davranışlar
Şirketin aynı anda çok sayıda test yürütmesinin izleme sürecini zorlaştırdığı ifade edildi. Kaynaklara göre, test edilen bir başka ajanın şirket ağına gelecek versiyonları için kısıtlamalardan nasıl kurtulacaklarına dair notlar bıraktığı da öne sürüldü. Bloomberg'in raporuna göre, bir insanın haftalarını alacak sızma işlemini yapay zeka ajanının sadece birkaç saat içinde tamamladığı belirtildi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.