PrismML, Qualcomm Snapdragon ile 1‑bit Bonsai LLM Geliştirdi

1‑bit Bonsai LLM, Snapdragon AR1 Gen 1 tabanlı giyilebilir cihazlarda yerel olarak çalışarak gerçek‑zaman dil ve görsel işleme yeteneklerini bir arada sunuyor.

Modelin Özellikleri

1‑bit Bonsai, 2 milyar parametreli bir yapay zeka modelidir. Snapdragon işlemcilerle uyumlu olması sayesinde, donanım sınırlamalarına rağmen yüksek performans sağlar. Model, kullanıcıların çevrelerini anlama ve dil tabanlı etkileşimde bulunma kapasitesine sahip.

Geliştirmenin Amacı

PrismML, büyük dil modellerinin boyutlarını küçültüp donanım kısıtlamalarını aşma hedefiyle bu modeli tasarladı. Böylece, akıllı gözlük gibi hafif cihazlarda yerel olarak çalışabilir bir yapay zeka deneyimi sunuluyor.