Fransa merkezli yapay zeka girişimi ZML, farklı donanımlar üzerinde yüksek performanslı çıkarım yapılmasına olanak tanıyan yeni ürünü ZML/LLMD'yi piyasaya sürdü. Turing Ödüllü Yann LeCun tarafından desteklenen girişim, açık kaynaklı büyük dil modellerinin (LLM) tek bir üreticiye bağımlı kalmadan çalıştırılmasını hedefliyor.

Donanım Sınırlarını Kaldıran Esnek Altyapı

ZML/LLMD çıkarım sunucusu; Nvidia, AMD, Google TPU, Apple Metal ve Intel Arc gibi çok çeşitli çiplerle uyumlu olarak çalışabiliyor. Şirketin kurucusu Steeve Morin, yapay zekanın günlük yaşama entegre olmasıyla birlikte model eğitiminden ziyade istemlerin işlendiği 'çıkarım' aşamasının optimizasyonunun daha kritik hale geldiğini belirtiyor.

Maliyetleri Düşürme ve Avrupa Çip Üreticilerine Destek

Yazılım, işletmelerin ve bulut hizmet sağlayıcılarının daha düşük maliyetli veya daha az enerji tüketen çiplerden oluşan karma sistemler kurmasına imkan tanıyor. Bu yaklaşımın, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud ve VSORA gibi Avrupa menşeli yeni nesil çip üreticilerine de destek sağlayabileceği öngörülüyor.

20 Milyon Dolarlık Yatırım ve Stratejik Büyüme

Paris merkezli 20 kişilik küçük bir ekibe sahip olan ZML; 20VC, Kima Ventures ve LocalGlobe gibi yatırım firmalarından 20 milyon dolar yatırım topladı. Ürün şu an için ücretsiz olarak sunulurken, şirketin önceliği gelir elde etmekten ziyade kullanım verilerini ölçerek büyümeyi sürdürmek. Girişimin yatırımcıları arasında Docker kurucusu Solomon Hykes ile Hugging Face kurucuları Clément Delangue ve Julien Chaumond gibi isimler yer alıyor.