Ukrayna merkezli uygulama geliştiricisi MacPaw, ürünlerinde yerel olarak barındırılan yapay zeka modellerini kullanmak amacıyla Liquid AI ile stratejik bir ortaklığa gitti. Şirket, bu iş birliği sayesinde geliştirdiği yapay zeka asistanı Eney için cihaz üzerinde çalışan bir çıkarım sistemi ve yerel bellek yapısı oluşturmayı hedefliyor.

Elix Sistemi ile Çevrimdışı Yapay Zeka Deneyimi

İş birliği kapsamında Liquid AI, Elix adı verilen bir cihaz üzeri çıkarım sistemi geliştirecek. Liquid AI CEO'su Ramin Hasani, donanıma özel olarak tasarlanan mimarileri sayesinde gizlilik ve güvenlik avantajları sunan, yüksek verimli bir zeka yapısı kurduklarını belirtti. MacPaw CEO'su Oleksandr Kosovan ise bu yerel modellerin, kullanıcılara asistanları ve ajan tabanlı iş akışlarını internet bağlantısı olmadan çalıştırma imkanı tanıyacağını vurguladı.

Geliştiricilere Açık Altyapı ve Kredi Tabanlı Model

MacPaw, yerel işlem mimarisini tamamladıktan sonra bu teknolojiyi kendi uygulama mağazası olan SetApp üzerindeki geliştiricilere sunmayı planlıyor. 150 bin üzerinde ücretli kullanıcısı bulunan SetApp, geliştiriciler için hem yerel çıkarım araçlarını hem de Google gibi şirketlerin bulut modellerini tek bir noktadan sunan bir merkez haline gelecek. Ayrıca şirket, yapay zeka işlemleri için görev karmaşıklığına göre değişen kredi tabanlı bir fiyatlandırma sistemi üzerinde denemeler yapıyor.

Ne anlama geliyor?

Cihaz üzeri çıkarım, yapay zeka modellerinin verileri uzak sunuculara göndermek yerine doğrudan kullanıcının sahip olduğu donanım üzerinde işlemesi işlemidir. Bu yöntem, verilerin dışarı çıkmasını engellediği için güvenliği artırırken, ağ gecikmelerini ortadan kaldırarak işlem hızını optimize eder. Özellikle çevrimdışı çalışma kapasitesi, internet erişiminin kısıtlı olduğu durumlarda dijital araçların işlevselliğini korumasını sağlar.

Uygulama mağazalarında kredi tabanlı sistemlerin kullanılması, işlem gücü maliyetlerinin kullanıcıya veya geliştiriciye nasıl yansıtılacağıyla ilgilidir. Karmaşık işlemler daha fazla hesaplama gücü gerektirdiği için, her işlemin belirli bir birimle fiyatlandırılması sürdürülebilir bir kaynak yönetimi sağlar. Bu yaklaşım, donanım kaynaklarının verimli kullanılmasına ve işlem maliyetlerinin optimize edilmesine yardımcı olur.