İnsan kaynakları yazılım sağlayıcısı Rippling, şirketlerin yapay zeka harcamalarını izlemesine ve kontrol altına almasına yardımcı olan AI Spend Console adlı yeni ürününü tanıttı. Araç, çalışanların, ekiplerin ve rollerin ne kadar harcama yaptığını haritalandırarak, bu maliyetlerin gerçek bir verimlilik artışına mı yoksa düşük kaliteli çıktılara mı dönüştüğünü analiz ediyor.

Yapay Zeka Token Maliyetleri Bütçeleri Sarsıyor

Ürünün geliştirilme süreci, Rippling'in yıl başında yapay zeka kullanımını artırmasıyla başladı. Şirket yönetimi, Mart ayında yapılan bir toplantıda, Ar-Ge birimindeki toplam personel maaş bütçesinin yüzde 40'ına denk gelen bir miktarın yapay zeka tokenlarına harcandığını fark etti. Harcamaların her ay yüzde 80 oranında arttığı tespit edildi.

Verimlilik ve Maliyet Analizi Bir Arada

Yapılan analizler, toplam harcamaların yaklaşık yüzde 60'ının, çalışanların sadece yüzde 10 ila 15'i tarafından gerçekleştirildiğini ortaya koydu. Hatta bir mühendisin tek başına ayda 50 bin dolar harcadığı belirlendi. Yeni araç, yüksek harcama yapan ancak kod incelemelerinde işlerinin sık sık yeniden yapılmasının istendiği mühendisler gibi verimlilik sorunlarını tespit edebiliyor.

Model Seçimi ve Gateway Çözümü

Rippling, maliyetleri düşürmek için OpenAI, Anthropic ve Cursor gibi servislerle harcama üst sınırları üzerinden pazarlıklar yaptı. Şirket, personelin her görev için en yeni ve en pahalı modelleri seçme eğiliminde olduğunu gözlemledi. Bu sorunu çözmek için istemleri en uygun maliyetli modele yönlendiren bir yapay zeka geçidi (AI gateway) geliştirdi.

Ne anlama geliyor?

Bulut tabanlı hizmetlerde kullanılan işlem birimleri, kullanılan veri miktarına göre ücretlendirilir. Birçok kurum, bu sistemlerin maliyetlerini anlık olarak takip edemediği için bütçe aşımıyla karşılaşır. Bu yeni teknoloji, hangi görev için hangi kapasitedeki işlem gücünün yeterli olduğunu belirleyerek, gereksiz yere yüksek maliyetli kaynakların tüketilmesini engeller.

Sistem, gelen talepleri analiz ederek görevin zorluk derecesine göre farklı maliyet seviyelerindeki işlem modellerine yönlendirme yapar. Böylece basit işlemler için ucuz modeller kullanılırken, sadece karmaşık problemler için yüksek maliyetli yapılar devreye girer. Bu mekanizma, kurumların operasyonel giderlerini düşürürken kaynakların daha verimli dağıtılmasını sağlar.