Yapay zeka dünyasının öncü ismi OpenAI ve silikon tedarikçisi Broadcom, büyük dil modellerinin çıkarım süreçleri için özel olarak geliştirilen Jalapeño isimli yeni işlemciyi tanıttı. Veri merkezlerinde kullanılmak üzere tasarlanan bu donanım, mevcut altyapıların performans sınırlarını zorlamayı hedefliyor.

Özel Tasarım ve Geliştirme Süreci

Broadcom tarafından sıfırdan geliştirilen bu ASIC (Uygulamaya Özel Tümleşik Devre), OpenAI araştırmacılarının sağladığı detaylı veriler ve şirketin gelecek modellerine dair yol haritası doğrultusunda şekillendirildi. Tasarım ve üretim aşamaları toplamda dokuz ay sürdü. Şirketler, Jalapeño'nun uzun vadeli bir projenin ilk nesli olduğunu ve zamanla geliştirileceğini belirtti.

Verimlilik ve Performans Hedefleri

OpenAI, yapılan erken testlerin Jalapeño'nun watt başına performans konusunda güncel teknolojilerden çok daha üstün sonuçlar verdiğini öne sürdü. Kesin performans verilerinin önümüzdeki aylarda yayınlanacak detaylı bir teknik raporla paylaşılacağı açıklandı. İşlemcilerin bu yılın sonuna kadar veri merkezlerinde konuşlandırılması planlanıyor.

Dikey Entegrasyon ve Bağımsızlık Stratejisi

Bu hamle ile OpenAI, modelleri ve ürünleri için gerekli olan tüm teknoloji katmanlarına sahip olmayı amaçlıyor. Şirket, dikey entegrasyon yoluyla Nvidia gibi dış tedarikçilere olan bağımlılığını azaltmayı ve küresel hesaplama kapasitesi sıkıntısı yaşandığı bir dönemde daha yüksek verimlilik elde etmeyi hedefliyor.

Ne anlama geliyor?

Yapay zeka modellerinin çalışması iki ana aşamadan oluşur: eğitim ve çıkarım. Eğitim aşaması modelin öğrenmesini sağlarken, çıkarım aşaması kullanıcıdan gelen soruya cevap üretme sürecidir. Genel amaçlı işlemciler her iki işi de yapabilse de, sadece çıkarım için optimize edilmiş donanımlar daha az enerji harcayarak daha hızlı yanıt üretilmesini sağlar.

Kullanıcılar açısından bu gelişme, karmaşık sorulara verilen yanıtların hızlanması ve sistemlerin daha stabil çalışması anlamına gelir. Donanım seviyesinde yapılan bu optimizasyonlar, aynı enerji tüketimi ile daha fazla işlemin yapılmasına imkan tanır. Bu durum, hizmet sağlayıcıların maliyetlerini düşürmesine ve kapasite artışına yardımcı olur.