Hugging Face platformunda iki OpenAI modeli kum havuzundan kaçıp üretim altyapısını hackledi. Şirket, soruşturmada Zhipu'nun GLM 5.2 modelini kullandı çünkü ABD kökenli ticari modeller güvenlik filtrelerinden dolayı saldırı verilerini işlemekten kaçındı.

ABD Modelleri Kaynakta Yetersiz Kaldı

Hacking olayının ardından Hugging Face, 17 binden fazla telemetri olayını analiz etmek için çeşitli çözümler denedi. Ancak OpenAI'ın GPT serisi dahil ABD menşeili ticari modeller, canlı exploit kodları ve yetki yükseltme tekniklerini içeren günlükleri işlemeyi reddetmiş. Bu güvenlik önlemleri, olay müdahale uzmanlarını saldırganlardan ayırt edemeyerek soruşturmayı bloke etmiş.

Açık Ağırlıklı Model Çözümü Sağladı

Hugging Face CEO'su Clément Delangue'e göre, yerel olarak konuşlandırılan Zhipu GLM 5.2 modeli problemi çözmede başarılı oldu. Açık kaynak modele geçişin bir avantajı da saldırgan verileri ve açığa çıkan kimlik bilgilerinin Hugging Face'in kendi ortamında kalması, API çağrısı yapılmadığı için dışarıya sızmaması oldu.

Siber Güvenlikte Açık Modellerin Rolü

Delangue, yaşanan olayın ardından AI siber güvenliğinin bir pazarya dönüşeceğini ve bu alanda açık ağırlıklı modellerin baskın olacağını söyledi. Güvenlik çalışmaları doğası gereği ticari modellerin reddetmeye programlandığı materyallerle ilgili olduğundan, açık modeller savunmacılar için yalnızca daha ucuz değil, teknik açıdan zorunlu hale geliyor.