Yapay zeka geliştiricisi DeepSeek, V4-Pro modelinin fiyatlandırmasında %75 oranında ciddi bir indirime gitti. Ancak bu fiyat düşüşü, kurumsal yapay zeka sağlayıcıları ve geliştiriciler için beklenen kâr artışını beraberinde getirmedi. Sektörde 100x problemi olarak adlandırılan durum, modeller ucuzlasa bile kullanım maliyetlerinin artmaya devam ettiğini gösteriyor.

Token Tüketimindeki Artış ve 100x Problemi

Yapay zeka modellerinin çıkarım maliyetleri düşerken, ajan sistemlerin token tüketim hızının bu düşüşten çok daha fazla olduğu belirtiliyor. Geleneksel sohbet botları tek bir kullanıcı sorusunu tek bir model çağrısına dönüştürürken, ajan yapılarındaki süreçler; planlama, veri getirme, araç kullanımı, doğrulama ve özetleme gibi çok aşamalı döngülerden oluşuyor. Bu durum, kullanıcı tek bir cevap görse bile arka planda onlarca faturalandırılabilir işlemin gerçekleşmesine neden oluyor.

SaaS İş Modellerini Tehdit Eden Maliyetler

Kurumsal yapay zeka dünyasında hakim olan kişi başı aylık ödeme (seat-based SaaS) modeli, token amplifikasyonu nedeniyle risk altına girdi. Basit bir ajan sorgusu, sistem istemleri ve araç tanımlarıyla birlikte yaklaşık 35 bin giriş token'ı tüketebiliyor. Bu durum, özellikle yoğun kullanan müşterilerde, servis sağlayıcının aldığı aylık abonelik ücretinin, kullanıcının yarattığı çıkarım maliyetinin altında kalmasına ve brüt kâr marjlarının negatife düşmesine yol açıyor.

Sektördeki Devlerin Yaklaşımı ve Veriler

OpenAI'ın Y Combinator startuplarına sunduğu 2 milyon dolarlık API kredi teklifi, yapay zeka tabanlı bir şirketin ilk yılındaki yüksek işletim maliyetlerinin bir kanıtı olarak değerlendiriliyor. Verilere göre, tek aşamalı botlarda giriş-faturalandırma oranı 1:5 iken, destek veya finans gibi alanlarda kullanılan çok aşamalı ajanlarda bu oran 1:700 ve üzerine çıkabiliyor. Tek bir sorgunun maliyeti, kullanılan modele göre 0.10 ile 0.40 dolar arasında değişirken, aylık bir milyon sorgu hacmi altı hanceli rakamlara ulaşabiliyor.