OpenAI, Broadcom ile işbirliğinde geliştirdiği ilk özel çipini açıkladı. Jalapeño adıyla anılan bu işlemci, yapay zeka modellerinin çıkarım işlemleri için özel olarak tasarlanmıştı ve OpenAI'ın kendi yapay zeka modelleri geliştirme sürecinde kullanıldı.

Nvidia'ya bağımlılığı azaltma hedefi

Chip geliştirme planları OpenAI'ın Nvidia'nın GPU'larına olan bağımlılığını düşürmenin bir yolu olarak uzun süredir söylentilere konu olmuştur. Google ve Amazon da benzer amaçlar için kendi özel çiplerini geliştirmişlerdir. Bu çipler, makine öğrenmesi iş yüklerini hızlandırmak amacıyla tasarlanmış yapay zeka hızlandırıcılarıdır.

Performans ve maliyet avantajları

Jalapeño, kullanıcı komutlarına yanıt olarak önceden oluşturulmuş yapay zeka modellerinin çalıştırılmasını sağlayan çıkarım işlemi için özel olarak geliştirilmiştir. Henüz test aşamasında olan çip, mevcut çözümlere kıyasla önemli ölçüde daha iyi verim-watt oranı sunmaktadır. OpenAI, özellikle gerçek zamanlı kodlama modellerini çalıştırırken düşük çalışma maliyeti vurgusunu yapmıştır.

Tam yığın optimizasyonu

OpenAI, sadece ileri modeller geliştirmiyor veya bunlar üzerinde ürünler inşa etmiyor; aynı zamanda altında yatan altyapıyı da tasarlamaktadır. Buna çip mimarisi, çekirdekler, bellek sistemleri, ağ bağlantısı, planlama, dağıtım sistemleri ve ürün deneyimi dâhildir. Her katman aynı hedef etrafında optimize edilerek modelleri daha hızlı, güvenilir ve kullanıcılar için daha uygun maliyetli hale getirmektedir.