Eski Google ve Meta mühendisleri tarafından 2023 yılında kurulan şirket, Prometheus adlı sunucusuyla Nvidia'nın yüksek maliyetli GPU raflarının yaptığı işi farklı bir yöntemle gerçekleştirmeyi hedefliyor.
Ignite İşlemciler ve Dev Bellek Havuzu
Prometheus sunucusu, grafik işlemciler (GPU) yerine Ignite AI Processing Units adı verilen özel birimler kullanıyor. Arm çekirdeklerini, RISC-V vektör ve tensör motorlarıyla birleştiren bu sistemde, tek bir sunucuya 12 adete kadar birim yerleştirilebiliyor. En dikkat çekici özellik ise 8TB ile 128TB arasında değişen devasa bir LPDDR6 bellek havuzunun kullanılması. Bu bellek türü, GPU'ların bağımlı olduğu pahalı yüksek bant genişlikli bellekler yerine akıllı telefonlarda kullanılan daha ekonomik belleklerden oluşuyor.
Nvidia ile Karşılaştırma ve Yazılım Desteği
Şirket, Prometheus'un bellek kapasitesini Nvidia DGX B300 ile kıyasladığında, 2.3TB belleğe sahip olan rakibine karşı 50 kattan fazla hızlı bellek sunduğunu iddia ediyor. Ayrıca bağlantı bant genişliğinin 1.7 kat daha fazla olduğu ve bir rafın, güç tüketiminin çok küçük bir kısmıyla 25 adet Nvidia Vera Rubin rafının bellek performansına eşdeğer olduğu öne sürülüyor. Yazılım tarafında ise PyTorch, vLLM ve OpenAI Triton gibi açık standartları destekleyerek, GPU'lar için geliştirilen modellerin herhangi bir değişiklik yapılmadan çalıştırılabileceği belirtiliyor.
Yatırımlar ve Sektörel Beklentiler
Geçen yılın sonlarında 100 milyon dolar yatırım alan ve Tel Aviv ile Los Angeles'ta yaklaşık 40 çalışanı bulunan Majestic Labs, büyük işletmelerden ve hiper ölçekli veri merkezlerinden siparişler aldığını duyurdu. Ancak sistemin 128TB'lık kapasiteye ulaşmak için on binlerce bellek kalıbı ve çok sayıda toplama çipi gerektirmesi, donanımın fiziksel karmaşıklığına dair soru işaretleri yaratıyor. Ürünlerin önümüzdeki yıl sevkiyatına başlanması beklenirken, sektördeki uzmanlar bağımsız performans testlerinin sonuçlarını bekliyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.