Büyük işletmeler yapay zeka iş yüklerini üretim ortamına taşımayı başardı; kuruluşların üçte ikisi zaten canlı yapay zeka uygulamaları çalıştırırken, bu altyapının gerçek maliyetini hesap edebilen neredeyse hiç yok. VentureBeat tarafından 170 kuruluş üzerinde yapılan araştırma, işletmelerin satın alma kararlarında hız ve donanım erişilebilirliğini maliyet kontrolünün önüne koyduğunu ortaya koyuyor.

Üretim Baskısı Altında Hız Önceliği

Araştırmaya katılan kuruluşların yüzde 66'sının yapay zeka iş yüklerini üretim ortamında çalıştırdığını ve yüzde 29'unun bunu ölçekte yaptığını gösteriyor. İşletmeler altyapı seçiminde entegrasyon (yüzde 40) en önemli faktör olarak kalmakla birlikte, performans ve GPU erişilebilirliği (sırasıyla yüzde 35 ve 24) toplam maliyete (yüzde 22) göre çok daha ön plana çıkmış durumda.

Üretim ortamında yükümlülüklerin yoğun olduğu ekipler hız ve güvenilirlik için satın alıp ölçümleme yapıyor ve maliyeti listede aşağıya itmiştir. Bu karar hali kendi GPU'larını işleten 155 kuruluştan yüzde 69'unun cihazlarını yüzde 50 veya daha az kapasitede çalıştırıyorsa ve yüzde 12'si kullanım oranını hiç ölçmüyorsa, oldukça sorunlu hale gelir.

Maliyet Takibi Çökmüş Durumda

Araştırmaya göre yapay zeka bilişim kaynaklarının ne kadar harcandığını titizlikle takip eden kuruluş oranı yüzde 47'ye ulaşamadı. Üretim ölçeğinde yapay zeka çalıştıran işletmeler içinde bile bu oran sadece yüzde 56'ya yükseliyor. Maliyet etkinliği tatmini 3,87 ile en düşük puan alırken, genel tatmin 4,14'te seyrediyor; fark tam da ölçüm olmadan yargılanması en zor boyuta denk geliyor.

Uzman Bulutlara Geçiş Hızlanacak

Kuruluşlar gelecek yatırımlarını başka yöne çevirmeye hazırlanıyor. Yapay zeka özelleştirilmiş bulut hizmetleri (yüzde 44) ve Nvidia dışı hızlandırıcılar (yüzde 39) başlıca ilgi alanı durumda. Yüzde 62'si gelecek 12 ay içinde sağlayıcı değiştirmeyi veya yeni bir tane eklemeyi planlıyor; ancak bu değerlendirme seti çoğunlukla zaten kullanmakta oldukları aynı büyük oyuncularla sınırlı kalıyor.

Ne anlama geliyor?

Kuruluşlar yapay zeka teknolojisini hızla üretim ortamına sokmak için acele ediyor ve bu sebeple kısa vadeli sorunlara (hız, güvenilirlik, donanım bulunabilirliği) uzun vadeli sorunlara (toplam maliyeti anlama, verimlilik) tercih veriyorlar. Bilgisayar kaynaklarının ne kadar tuttuğunu kendi kuruluşunda ölçemiyor olmak, şirkete sayısı tahmin edilemez şekilde pahalıya mal olabiliyor; satın alınan kapasitenin yarısından fazlası atıl duruyor çünkü ne kadar ihtiyaç olduğu hesaplanmamış.

Bu eğilim, sektörlerde üretim ortamındaki yapay zeka uygulamalarının artış bulması ile maliyeti kontrol altına alma yeteneği arasında giderek açılan uçurumu gösteriyor. Özelleştirilmiş donanım ve hizmet sağlayıcıları henüz yaygın kullanımda değil olsa da, bu boşluğu doldurması için şirketler onları denemeye başlıyor. Bir kuruluşun yapay zeka altyapısını verimli kullanması ve iş sonuçlarına gerçekten katkı sağlaması, sayı takip etmek kadar teknoloji seçimi kadar önemliyse; sektör bu anlamda hala çok erken evrededir.