Şirketlerin yapay zeka altyapılarına yaptıkları harcamalar, bu yatırımların maliyetlerini takip etme kapasitelerinin çok üzerine çıktı. VentureBeat Pulse Research tarafından 107 işletme ile gerçekleştirilen araştırma, kurumların altyapı satın alma hızının, ekonomik görünürlük ve kontrol mekanizmalarından daha hızlı ilerlediğini ortaya koyuyor.

Kapasite Kullanımı ve Maliyet Takibindeki Yetersizlik

Araştırma sonuçlarına göre şirketlerin büyük bir kısmı, mevcut donanımlarını verimli kullanamıyor. Katılımcıların yüzde 83'ü GPU kullanım oranlarının yüzde 50 veya daha altında olduğunu belirtirken, şirketlerin yalnızca yüzde 44'ü yapay zeka hesaplama maliyetlerini titizlikle takip edebiliyor. Buna rağmen, kurumların sadece yüzde 21'i yapay zekayı büyük ölçekli üretim aşamasında kullanıyor.

Altyapı Tercihleri ve Tedarikçi Değişim Eğilimi

Şirketlerin altyapı sağlayıcıları konusundaki kararlılıkları oldukça düşük seyrediyor. Kuruluşların yüzde 64'ü önümüzdeki bir yıl içinde, yüzde 38'i ise önümüzdeki çeyrekte mevcut altyapı sağlayıcısını değiştirmeyi veya yeni bir sağlayıcı eklemeyi planlıyor. Satın alma kararlarında token başına düşen fiyattan ziyade, mevcut sistemle entegrasyon (yüzde 41) ve toplam sahip olma maliyeti (yüzde 35) belirleyici faktörler olarak öne çıkıyor.

Gelecekteki Yatırım Planları ve Teknik Kısıtlar

Şirketlerin gelecek yıl için değerlendirmeyi planladığı en büyük alan, şu an neredeyse hiçbirinin kullanmadığı yapay zeka uzmanı bulut sistemleri (yüzde 45) oldu. Öte yandan, çıkarım ölçeklendikçe GPU hesaplama gücünden bellek bant genişliğine doğru kayan teknik kısıtlar, şirketlerin yaklaşık beştesi tarafından henüz fark edilmedi veya gündeme alınmadı.