Turing Ödüllü Yann LeCun tarafından desteklenen girişim, açık kaynaklı büyük dil modellerinin (LLM) tek bir üreticiye bağımlı kalmadan çalıştırılmasını hedefliyor.
Donanım Sınırlarını Kaldıran Esnek Altyapı
ZML/LLMD çıkarım sunucusu; Nvidia, AMD, Google TPU, Apple Metal ve Intel Arc gibi çok çeşitli çiplerle uyumlu olarak çalışabiliyor. Şirketin kurucusu Steeve Morin, yapay zekanın günlük yaşama entegre olmasıyla birlikte model eğitiminden ziyade istemlerin işlendiği 'çıkarım' aşamasının optimizasyonunun daha kritik hale geldiğini belirtiyor.
Maliyetleri Düşürme ve Avrupa Çip Üreticilerine Destek
Yazılım, işletmelerin ve bulut hizmet sağlayıcılarının daha düşük maliyetli veya daha az enerji tüketen çiplerden oluşan karma sistemler kurmasına imkan tanıyor. Bu yaklaşımın, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud ve VSORA gibi Avrupa menşeli yeni nesil çip üreticilerine de destek sağlayabileceği öngörülüyor.
20 Milyon Dolarlık Yatırım ve Stratejik Büyüme
Paris merkezli 20 kişilik küçük bir ekibe sahip olan ZML; 20VC, Kima Ventures ve LocalGlobe gibi yatırım firmalarından 20 milyon dolar yatırım topladı. Ürün şu an için ücretsiz olarak sunulurken, şirketin önceliği gelir elde etmekten ziyade kullanım verilerini ölçerek büyümeyi sürdürmek. Girişimin yatırımcıları arasında Docker kurucusu Solomon Hykes ile Hugging Face kurucuları Clément Delangue ve Julien Chaumond gibi isimler yer alıyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.