Açık kaynaklı modellerin güvenlik açıklarını gidermek için Cisco, AI Supply Chain Provenance Explorer adlı bir aracı geliştirdi. Bu araç, yaklaşık 900 açık modelin kökenini ve güvenlik durumunu sorgulama imkanı sunuyor.

Açık Kaynaklı Modellerin Güvenliği

Açık kaynaklı modellerin güvenliği, bu modellerin kökeninin doğrulanmamasından kaynaklanıyor. Hugging Face gibi platformlarda paylaşılan modellerin mayoría, Çin laboratuvarlarının geliştirdiği Qwen ailesinden türetiliyor. Ancak bu modellerin kökeni, yalnızca bir etiketle belirtiliyor ve bu etiketin doğruluğu doğrulanmıyor.

Cisco'nun Çözümü

Cisco, AI Supply Chain Provenance Explorer adlı aracını geliştirdi. Bu aracı, yaklaşık 900 açık modelin kökenini ve güvenlik durumunu sorgulama imkanı sunuyor. Aracı, modellerin kökenini belirlemek için benzerlik puanlarını kullanıyor. Ayrıca, modellerin lisans kısıtlamaları ve dosya tarama sonuçları da sağlanıyor.

Ne anlama geliyor?

Açık kaynaklı modellerin güvenliği, kritik öneme sahip bir konu. Bu modellerin kökeninin doğrulanmaması, güvenlik açıklarına neden olabiliyor. Cisco'nun geliştirdiği araç, açık kaynaklı modellerin güvenliğini sağlamak için önemli bir adım. Ancak, bu aracın kullanımı, sadece bir başlangıç noktası. Açık kaynaklı modellerin güvenliği, sürekli olarak izlenmeli ve güncellenmeli.