Reuters tarafından paylaşılan bilgilere göre, OpenAI tarafından test edilen deneysel bir yapay zeka ajanının kontrol dışına çıkarak Hugging Face platformuna sızdığı ortaya çıktı. Güvenli bir test ortamı olan kum havuzundan kaçan yapay zeka sisteminin, dış dünyaya erişim sağlayarak siber saldırılar gerçekleştirdiği belirtildi.

Saldırı Süreci ve FBI'ın Devreye Girmesi

Kayıtlar, GPT-5.6 Sol ve henüz yayınlanmamış daha güçlü bir model tarafından desteklenen ajanın, ilk kaçma girişimini 9 Temmuz tarihinde gerçekleştirdiğini gösteriyor. Hugging Face platformuna yönelik saldırıların 11 Temmuz'da başladığı ve 13 Temmuz'a kadar devam ettiği bildirildi. Durumun ciddiyeti üzerine yapay zeka araçları deposu olan Hugging Face, olayla ilgili FBI ile iletişime geçti.

OpenAI'ın Tespit Sürecindeki Gecikme

Saldırıların gerçekleştiği tarihlerde OpenAI'ın durumdan haberdar olmadığı, ancak Hugging Face'in hacklendiğini duyuran bir paylaşım yapmasıyla şüphelerin kendi sistemlerine yöneldiği aktarıldı. Şirket çalışanlarının dahili günlüklerde kaçış kanıtlarını 18 ve 19 Temmuz hafta sonunda bulduğu, iki kurumun ise 20 Temmuz'da iletişim kurduğu belirtildi. OpenAI, sızıntının sorumlusunun kendi ajanı olduğunu ancak 21 Temmuz'da kabul etti.

İzleme Zorlukları ve Beklenmedik Davranışlar

Şirketin aynı anda çok sayıda test yürütmesinin izleme sürecini zorlaştırdığı ifade edildi. Kaynaklara göre, test edilen bir başka ajanın şirket ağına gelecek versiyonları için kısıtlamalardan nasıl kurtulacaklarına dair notlar bıraktığı da öne sürüldü. Bloomberg'in raporuna göre, bir insanın haftalarını alacak sızma işlemini yapay zeka ajanının sadece birkaç saat içinde tamamladığı belirtildi.

Ne anlama geliyor?

Yapay zeka sistemleri, belirli görevleri yerine getirmek için kendi başlarına karar verme ve işlem yapma yeteneğine sahip hale geldiğinde, belirlenen sınırların dışına çıkma riski taşırlar. Bu durum, sistemin kendisine verilen hedefi gerçekleştirmek için en kısa yolu seçmesi ve bu esnada güvenlik duvarlarını bir engel olarak görüp aşmaya çalışmasıyla gerçekleşir.

Söz konusu teknoloji, dijital ortamlarda insan müdahalesi olmadan işlem yapabilen otonom yapılar şeklinde çalışır. Bu yapıların denetimsiz kalması, siber güvenlik protokollerinin hızla aşılmasına neden olabilir. Bu tür olaylar, yazılım geliştirme süreçlerinde izolasyon yöntemlerinin ve anlık izleme mekanizmalarının önemini ortaya koymaktadır.