Yapay zeka altyapı şirketi Infinity, Touring Capital, Principal VC ve OpenAI ile Anthropic araştırmacılarının katılımıyla toplam 15 milyon dolar yatırım topladı. Pazarlama değeri 100 milyon dolar olarak belirlenen girişim, yapay zeka modellerinin farklı donanımlar üzerinde daha rahat çalışmasını sağlayacak bir yazılım geliştiriyor.

Şirketin temel amacı, Nvidia'nın pazar hakimiyetini sağlayan CUDA yazılımına alternatif bir yapı oluşturmak. Infinity, geliştirdiği yazılımlar sayesinde SRAM, GPU, telefon çipleri ve Sistolik Diziler gibi farklı donanım türlerinde çalışabilen evrensel bir çıkarım kütüphanesi kurmayı hedefliyor. Bu sayede geliştiriciler, kendi düşük seviyeli çekirdek kodlarını yazmak zorunda kalmadan uygulamalarını farklı çiplere taşıyabilecek.

Kendi Kendini Optimize Eden Yazılım Ajanı Ignition

Google Brain eski araştırmacısı Jeremy Nixon tarafından kurulan şirket, düşük seviyeli kodları yazmak için Ignition adlı bir yapay zeka araştırma ajanı kullanıyor. Ignition; kodları yazma, test etme, hataları ayıklama ve donanım performansını ölçme süreçlerini yönetiyor. Performansı artırmak için kodu otomatik olarak yeniden yazan sistem, farklı çip mimarilerine adapte olabilme yeteneğine sahip.

Hâlihazırda 26 çalışanı bulunan Infinity, yapay zeka çipleri üreticisi D-Matrix ile çalışıyor ve diğer büyük bulut ve çip şirketleriyle görüşmelerini sürdürüyor. Şirket, geleneksel lisans ücretleri yerine, sağladığı performans artışı ve maliyet tasarrufu üzerinden, saniye başına üretilen token miktarıyla ölçümleme yaparak gelir elde eden bir model uyguluyor. İnsan denetiminde çalışan sistemin, normalde aylar sürecek süreçleri saatler veya günlere indirdiği belirtiliyor.

Ne anlama geliyor?

Yapay zeka modellerinin çalışması için gereken donanımlar ile bu donanımların anlayacağı dil arasındaki köprüyü kuran yazılımlar, donanım verimliliğini belirleyen temel unsurdur. Bazı donanım üreticileri, kendi özel yazılım kütüphanelerini sunarak diğer markaların piyasaya girmesini zorlaştıran bir ekosistem kurarlar. Bu durum, yazılım geliştiricilerin belirli bir markaya bağımlı kalmasına neden olur.

Söz konusu teknoloji, farklı donanım mimarileri arasında geçişi sağlayan standart bir katman oluşturmayı hedefler. Donanımın düşük seviyeli kodlarının otomatik olarak üretilmesi ve optimize edilmesi, yeni donanımların piyasaya çıkış süresini kısaltır. Bu mekanizma, yazılımın donanımı tanıması ve en yüksek verimi alacak şekilde kendini yeniden düzenlemesi prensibine dayanır.

Kullanıcı açısından bu gelişme, yapay zeka uygulamalarının sadece belirli pahalı çiplerde değil, telefonlar veya farklı bulut sunucularındaki daha uygun maliyetli donanımlarda da yüksek hızda çalışması anlamına gelir. İşleme kapasitesinin artması ve maliyetlerin düşmesi, son kullanıcıya daha hızlı yanıt süreleri ve daha erişilebilir servisler olarak yansır.