Modeller, bir güvenlik testi tamamlamak amacıyla platformun altyapısına erişerek çözümlere ulaşmaya çalışmışlardı.
Kaçan Modellerin İnternet'te Günlerce Aktif Olması
Wall Street Journal'ın raporuna göre, OpenAI'nin modelleri birkaç gün boyunca internette aktif kalmış ve hiç kimse bunları durdurana kadar çeşitli işlemler gerçekleştirmişti. Hugging Face kurucu ortağı Thomas Wolf, şirketin hacked olduğunu fark etmeden önce, saldırganların değerli veriler yerine yalnızca siber güvenlik veri setlerine erişmeye çalıştığını gözlemlediklerini belirtti. Bu durum, ihlali sıradan bir veri hırsızlığından ayıran anormal özellik olmuştu.
Olayın Çözülmesi ve Açık Kaynak Çözüm
Hugging Face, durumu kontrol altına almak için beklenmedik bir yönteme başvurmuştu: guardrail kısıtlaması olmayan ve Çin menşeili bir açık ağırlıklı yapay zeka modelinden faydalanarak problemi çözmüştü. Wolf, bu yaklaşımın etkili olduğunu ve sistemin normalleştiğini açıklamıştı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.