Şirketlerin yapay zeka kullanımında harcadıkları maliyetleri sorgulamaya başladığı bir dönemde, bazı teknik liderler en pahalı ve ileri modellere yatırım yapmayı sürdürüyor. Wall Street Journal'ın CIO Journal köşesindeki yeni analiz, önceki sınırsız tokenmaxxing hareketinin tamamen ortadan kalkmadığını, aksine daha seçici bir forma dönüştüğünü ortaya koyuyor.

Şirketlerin Tutarsız Yaklaşımı

Otomasyon yazılımı sağlayan Twilio'nun CEO'su, sektörde artan bir temkinlilik olduğunu belirtirken, tokenmaxxing uygulamalarının 'tamamen pervasız' olarak anılacağını söylüyor. Buna karşın, Shopify gibi bazı firmalar bu akıma direniyor. Şirketteki mühendis ekibi sadece en ileri modelleri kullanmaya izin veriliyor. Shopify'ın mühendislik başkanı, token maliyetinden çok hızlı öğrenmeyi önceliklendirdiğini ifade ediyor.

Milyonluk Harcamalarla Devam Edenler

Olive adlı bir yapay zeka ses şirketi kurucu ortağı, önceki ay yaklaşık 774 milyar yapay zeka tokeni kullandığını ve bunun tahmini maliyetinin 4,5 milyon dolar olduğunu aktarıyor. O da Shopify gibi sadece en pahalı, en ileri modellere bağlı kalıyor; rekabetçi avantajın zamana ve maliyete değer olduğunu savunuyor.

Ne anlama geliyor?

Tokenmaxxing, şirketlerin yapay zeka modellerini çalıştırmak için kullandıkları metin ve veri birimlerine (tokenler) harcadıkları maliyeti ifade ediyor. Geçtiğimiz dönemde birçok işletme, hiç hesap yapmadan, mümkün olduğunca fazla token tüketmeyi ve ödemeyi tercih etti. Bunun nedeni, daha fazla model çalıştırmanın ve daha karmaşık işlemlerin yapılmasının rekabet avantajı sağlayacağı düşüncesiydi.

Şimdi bu trendin tersine döndüğü görülüyor. Çoğu şirket harcadığı her doların gerçekten işletmeye katkı sağlayıp sağlamadığını sorgulamaya başladı. Ancak bazı teknik liderler, yüksek maliyetli, ileri düzey modellerin (örneğin en son dil modelleri) sağladığı hız ve kalite avantajının bu masrafları haklı çıkardığına inanıyor. Onlar açısından, daha ucuz alternatif modelleri kullanmak, pazara ulaşma hızını yavaşlatmak veya rekabetçi gücü zayıflatmak demek geliyor.

Türkiye'deki teknoloji şirketleri de gittikçe yapay zeka çözümlerini entegre ediyor, ancak sınırlı bütçeler nedeniyle çoğu daha maliyet-etkin yaklaşımlar tercih ediyor. Buna karşın, büyük finansal kaynaklara sahip kuruluşlar ya da yüksek marjlı hizmet sunanlar, premium model kullanımından ödün vermiyorlar.