Amerika Birleşik Devletleri merkezli açık kaynak yapay zeka laboratuvarı Arcee, Çin menşeli açık ağırlıklı yapay zeka modellerinin güvenlik riskleri konusundaki tartışmalara yeni bir boyut getirdi. Şirketin CTO'su Lucas Atkins, bu modellerin diğer açık kaynak yazılımlardan daha tehlikeli olmadığını ve yasaklanmaları yerine açık bir ekosistemin desteklenmesi gerektiğini belirtti.

Açık Ağırlıklı Modeller ve Maliyet Avantajı

Alibaba'nın Qwen ve Moonshot AI'ın Kimi K3 gibi açık ağırlıklı modelleri, kapalı kaynaklı modellere oranla çok daha düşük token maliyetleri sunuyor. Bu durum, OpenAI ve Anthropic gibi kapalı sistem geliştiren laboratuvarlar için kâr marjı tehdidi oluştururken, beraberinde güvenlik endişelerini de getiriyor. Ancak Atkins, bu modellerin şirketlerin kendi veri merkezlerinde çalıştırıldığı takdirde Çinli bilgisayar korsanları için bir giriş yolu oluşturmayacağını savunuyor.

Yazılım Güvenliği ve Model Eğitimi

Atkins, yapay zeka modellerinin eğitim sürecinin geleneksel yazılımlardan farklı olduğunu vurguluyor. Modellerin Hugging Face gibi platformlar üzerinden indirildiğinde, sunucuda çalışan kaynak kodların büyük ölçüde görünür ve denetlenebilir olduğunu ifade eden Atkins, modellerin eğitim verilerine erişim olmasa bile kurumların kendi güvenlik testlerini yapabileceğini belirtiyor. Özellikle kod yazımı için kullanılan modellerde kötü niyetli arka kapıların oluşturulmasının teorik olarak mümkün olsa da, pratikte bunun oldukça zor olduğu ifade ediliyor.

Sektörel Gelişim ve Karşılıklı Öğrenme

Arcee, ABD'li şirketlere yerli alternatifler sunmak için modeller geliştirse de Çinli araştırmacıların çalışmalarına saygı duyduklarını belirtiyor. Açık yapının sağladığı avantajla, bu modellerin nasıl geliştirildiğini öğrenmenin ve üzerine yeni sistemler inşa etmenin sektörel gelişimi hızlandırdığı vurgulanıyor. Atkins, kurumların artık modelden bağımsız uygulamalar geliştirdiğini, bu nedenle tek bir kaynağa bağımlı kalmadıklarını ekliyor.

Ne anlama geliyor?

Açık ağırlıklı sistemler, eğitilmiş bir modelin matematiksel parametrelerinin dışarıya açılması prensibiyle çalışır. Bu yöntem, kullanıcının modeli kendi donanımında çalıştırmasını sağlayarak verilerin dışarı çıkmasını engeller ve işlem maliyetlerini düşürür. Kurumlar, bu yapı sayesinde sistemi kendi özel verileriyle yeniden şekillendirerek daha verimli hale getirebilir.

Süreç, bir yazılımın kodlarını okumaya benzer ancak modelin nasıl eğitildiği bilgisi gizli kalır. Güvenlik denetimleri, modelin çıktıları üzerindeki sapmaların, yanlış bilgilerin veya istenmeyen yanıtların filtrelenmesi mekanizmalarıyla gerçekleştirilir. Bu yaklaşım, teknoloji geliştiricilerin farklı mimarileri inceleyerek kendi çözümlerini optimize etmelerine imkan tanır.