Nvidia'nın öncülüğünde kurulan Açık Güvenli AI İttifakı (OSAA), kurulduğu bir haftadan kısa bir süre içinde 120'den fazla şirketi bir araya getirdi. İttifak, Shared AI Findings Exchange (SAFE) adlı bir çalışma grubu oluşturdu ve Linux Foundation'un yönetiminde öneriler sunmaya başladı.

SAFE Çalışma Grubunun Amacı

SAFE çalışma grubu, AI güvenlik olaylarının gizli bir şekilde bildirilmesini, etkilenenlerin uyarılmasını ve suçlu olmayan bir analiz yapılmasını amaçlıyor. Bu, endüstrinin AI güvenlik sorunlarıyla daha etkili bir şekilde başa çıkmasına yardımcı olabilir.

Üye Şirketlerin Katkıları

OSAA üyeleri, açık kaynaklı teknolojilerini katkıda bulunarak ve kataloglayarak, AI güvenlik sorunlarına karşı daha güçlü bir savunma oluşturmayı hedefliyor. Nvidia, açık kaynaklı modeller ve LLM güvenlik tarama aracı Garak sunuyor. Okta, ajan kimliği teknolojisi üzerinde çalışırken, Red Hat ajan yönetimine odaklanıyor ve Amazon, açık ajan oluşturma aracı Strands Agents ve yetkilendirme dili Cedar katkıda bulunuyor.

Ne Anlama Geliyor?

Açık AI endüstri grubunun oluşumu, AI güvenlik sorunlarına karşı daha güçlü bir savunma oluşturmak için endüstrinin birlikte çalışmasının önemini vurguluyor. Bu girişim, AI güvenlik sorunlarına karşı daha etkili bir şekilde başa çıkılması için gerekli adımların atılmasını sağlıyor. Ayrıca, açık kaynaklı teknolojilerin AI güvenlik sorunlarına karşı daha güçlü bir savunma oluşturmak için nasıl kullanılabileceğini gösteriyor.