Caltech araştırmacıları ve yapay zeka danışmanlarıyla kurulan PrismML, Qualcomm Snapdragon platformunda çalışan akıllı gözlükler için yeni bir dil modeli geliştirdi. 1‑bit Bonsai LLM, Snapdragon AR1 Gen 1 tabanlı giyilebilir cihazlarda yerel olarak çalışarak gerçek‑zaman dil ve görsel işleme yeteneklerini bir arada sunuyor.

Modelin Özellikleri

1‑bit Bonsai, 2 milyar parametreli bir yapay zeka modelidir. Snapdragon işlemcilerle uyumlu olması sayesinde, donanım sınırlamalarına rağmen yüksek performans sağlar. Model, kullanıcıların çevrelerini anlama ve dil tabanlı etkileşimde bulunma kapasitesine sahip.

Geliştirmenin Amacı

PrismML, büyük dil modellerinin boyutlarını küçültüp donanım kısıtlamalarını aşma hedefiyle bu modeli tasarladı. Böylece, akıllı gözlük gibi hafif cihazlarda yerel olarak çalışabilir bir yapay zeka deneyimi sunuluyor.

Ne Anlama Geliyor?

Model, hafif donanım üzerinde çalışacak şekilde optimize edilmiş. Bu, veri merkezine bağlı kalmadan cihazın kendi işlemcisi üzerinden anlık bilgi işleme yeteneği sağlar. Kullanıcılar, çevresel verileri anında analiz edip sonuçları görsel ve sesli olarak alabilirler. Bu yapı, giyilebilir cihazlarda enerji tüketimini azaltırken, yanıt süresini de kısaltır.