Açık Kaynaklı Modellerin Güvenlik Açığı

Açık Kaynaklı Modellerin Güvenliği

Açık kaynaklı modellerin güvenliği, bu modellerin kökeninin doğrulanmamasından kaynaklanıyor. Hugging Face gibi platformlarda paylaşılan modellerin mayoría, Çin laboratuvarlarının geliştirdiği Qwen ailesinden türetiliyor. Ancak bu modellerin kökeni, yalnızca bir etiketle belirtiliyor ve bu etiketin doğruluğu doğrulanmıyor.

Cisco'nun Çözümü

Cisco, AI Supply Chain Provenance Explorer adlı aracını geliştirdi. Bu aracı, yaklaşık 900 açık modelin kökenini ve güvenlik durumunu sorgulama imkanı sunuyor. Aracı, modellerin kökenini belirlemek için benzerlik puanlarını kullanıyor. Ayrıca, modellerin lisans kısıtlamaları ve dosya tarama sonuçları da sağlanıyor.