Çinli yapay zeka girişimi Moonshot AI, en güçlü modeli olan Kimi K3'ün tüm ağırlıklarını genel erişime açtığını duyurdu. Daha önce sadece API üzerinden sunulan model, artık araştırmacıların ve kurumsal geliştiricilerin kendi altyapılarında bağımsız olarak çalıştırabileceği bir yapıya kavuştu.

2.8 Trilyon Parametreli Dev Mimari

Teknik raporla birlikte paylaşılan Kimi K3, 2.8 trilyon parametreli bir Uzmanların Karışımı (Mixture-of-Experts) mimarisine sahip. Model, toplam 896 uzman arasından 104 milyar parametreyi aktif hale getirerek çalışıyor. Ayrıca bir milyon tokenlık geniş bir bağlam penceresi sunan sistem, yerel çok modlu akıl yürütme yeteneklerini destekliyor.

Kurumsal Kullanım ve Lisans Koşulları

Moonshot AI; vLLM ve SGLang ekosistemleri için uygulama desteği, optimize edilmiş dikkat çekirdekleri ve MoE iletişim kütüphaneleri gibi kritik altyapı bileşenlerini de paylaştı. Ancak modelin kullanımıyla ilgili özel bir lisans şartı getirildi. Yıllık toplam geliri 20 milyon ABD dolarını aşan ve 'Hizmet Olarak Model' (Model as a Service) işi yürüten şirketlerin, ticari kullanım için Moonshot AI ile ayrı bir anlaşma yapması gerekiyor.

Ne anlama geliyor?

Büyük dil modellerinde ağırlıkların paylaşılması, sistemin beyni olarak nitelendirilen matematiksel değerlerin dışarıya açılmasıdır. Bu durum, geliştiricilerin modeli kendi sunucularına kurarak veriyi dışarı göndermeden çalıştırmalarına ve modelin belirli görevler için özelleştirilmesine imkan tanır. Özellikle yüksek parametre sayısına sahip sistemlerin açık paylaşımı, donanım maliyetlerini karşılayabilen kurumlar için bulut bağımlılığını azaltır.

Sektördeki lisanslama modelleri, tamamen ücretsiz yazılımlardan farklı olarak belirli bir finansal eşik üzerinden kısıtlamalar getirmektedir. Bu mekanizma, küçük ölçekli geliştiricilerin teknolojiye erişimini kolaylaştırırken, teknolojiden yüksek gelir elde eden büyük yapıların lisans ücreti ödemesini sağlar. Kullanıcı açısından ise bu durum, veri gizliliğinin korunduğu kapalı devre sistemlerin kurulabilmesi anlamına gelir.