Yapay zeka laboratuvarı PrismML, geliştirdiği yeni nesil sıkıştırma teknolojisi sayesinde büyük dil modellerinin (LLM) işlevselliğini kaybetmeden çok daha küçük boyutlara indirgenebileceğini kanıtladı.
Şirket, Alibaba'nın açık kaynaklı Qwen3.8 27B modelini temel alarak geliştirdiği Bonsai 2 27B sürümünü 17 Eylül 2026'da piyasaya sürdü. Bu yeni model, **5,9 GB** boyutuna inerek standart kişisel bilgisayarların ve en gelişmiş akıllı telefonların depolama alanlarına sığacak şekilde tasarlandı. Orijinal modele kıyasla bellek ihtiyacında **9 ila 10 kat** bir azalma sağlanan bu gelişme, yapay zekanın cihaz üzerinde çalıştırılmasına yönelik önemli bir adım olarak kayda geçti.
Performans Kaybı Neredeyse Sıfır
PrismML CEO'su Babak Hassibi, sıkıştırma işleminin modelin yeteneklerini neredeyse hiç etkilemediğini belirtti. Yeni nesil Bonsai 2 modeli, orijinal Qwen modelinin toplu benchmark skorlarının **%98'ine** eşdeğer bir performans sergiliyor. Şirketin Mart ayında tanıttığı ilk Bonsai sürümünün bu oranı %95'te tutturduğu göz önüne alındığında, teknolojinin hızla olgunlaştığı görülüyor.
Teknolojinin arkasındaki ekip, Kaliforniya Teknoloji Enstitüsü'nden (Caltech) araştırmacılardan oluşuyor. Şirket, sıkıştırma teknolojileri alanında uzman olan Hassibi'nin liderliğinde faaliyet gösteriyor ve Databricks'in kurucu ortağı Ion Stoica'nın danışmanlığında ilerliyor. PrismML'ye Khosla Ventures, Cerberus Capital ve Caltech'ten yatırımlar gelirken, şirket hâlâ erken aşamada olup **22,25 milyon dolar** tutarında bir tohum turu tamamladı.
PrismML'nin Piyasadaki Konumu ve Stratejisi
Yapay zeka dünyasında büyük modellerin donanım gereksinimlerini azaltma hedefiyle çalışan tek şirket PrismML değil. İspanya'daki Donostia Uluslararası Fizik Merkezi'ndeki bir profesör tarafından kurulan Multiverse Computing de benzer sıkıştırma teknolojileri üzerine çalışıyor ve önemli miktarda fon toplamış durumda. Ancak PrismML, performans kaybını minimumda tutan yaklaşımıyla fark yaratmaya çalışıyor. Rumorlara göre şirket, modellerini Apple ile entegre etmek için görüşmeler yürütüyor; bu iddiayı CEO Hassibi ne doğruladı ne de yalanladı.
Ne anlama geliyor?
Büyük dil modellerinin küçültülmesi, yapay zekanın bulut sunucularından bağımsız olarak cihazlarda çalışabilmesi için kritik bir teknolojik eşiktir. Bu süreç, verilerin merkezi sunuculara gönderilmeden önce yerel donanımda işlenmesini sağlayarak gecikme sürelerini azaltır ve kullanıcı gizliliğini artırır. Sıkıştırma algoritmaları, modelin içindeki bilginin yoğunluğunu artırarak daha az bellek ile daha karmaşık akıl yürütme kapasitesini mümkün kılar. Bu sayede, güçlü işlemcilere sahip olmayan cihazlar bile gelişmiş analitik görevleri yerine getirebilir hale gelir.
Cihaz üzerinde çalıştırılan modeller, internet bağlantısı olmadan da işlevsel kalabilir. Bu durum, kesintisiz dijital deneyim arayan kullanıcılar için pratik bir avantaj yaratır. Sektördeki bu gelişme, donanım üreticileri ve yazılım geliştiricileri arasında yeni iş birliklerini tetikleyebilir ve mobil cihazlarda yerleşik yapay zeka asistanlarının standart hale gelmesine zemin hazırlayabilir. Kullanıcılar, kendi donanımlarının sınırları içinde daha özel ve anlık tepki veren yapay zeka uygulamalarıyla etkileşim içinde bulunma fırsatı yakalayacaktır.





Yorumlar (0)
İlk yorumu sen yaz.