Kurumsal yapay zeka yatırımları hızla artarken, bu sistemleri yönetme yeteneği geride kalmıştır. VentureBeat araştırmasına göre şirketlerin yüzde 58'i yapay zeka girişimlerini genişletmeye devam ederken, aynı bu sistemlerin üzerinde ne kadar kontrol sahibi olduklarına dair net bir cevapları bulunmamaktadır.

Çok Sayıda Platform, Tek Bir Sahip Yok

Araştırmaya katılan kuruluşların yüzde 85'i iki ya da daha fazla yapay zeka platformu kullanmakta, her bir platform kendisini 'birincil' çözüm olarak konumlandırmaktadır. Oysa bu platformlardan sadece yüzde 8'i tek bir çözüme geçmeyi başarmıştır. Bu dağınık yapı, kurumlar arasında ciddi bir uyum sorunu yaratmaktadır.

En çarpıcı bulgu, sorumluluk açığıdır. Araştırmaya katılanların yalnızca yüzde 38'i merkezi bir ekibin yapay zeka yönetiminden sorumlu olduğunu söylerken, yüzde 20'si her platform ekibinin kendi alanında bağımsız yönetim yaptığını belirtmiştir. Yüzde 17'si ise hiçbir rolün resmi olarak sorumlu olmadığını ifade etmiştir.

Görünürlük ve İzleme Yetersiz

Modellerin üretim ortamında sapması, güvenli olmayan davranış göstermesi veya başarısız olması durumunda bunu tespit edebileceklerine çok güvenen kuruluşlar yüzde 40 oranındadır. Ancak bu güveni aktif izleme ve uyarı sistemleriyle destekleyen sadece yüzde 10'dur. Geri kalanlar, bu kritik görevleri manuel insan taraması ile yürütmektedir.

Mali Kontrol Başarısızlıkları Gerçek Sonuçlar Doğuruyor

Kontrol boşluğunun en ağır bedeli finansal alanda görülmektedir. Katılımcıların yüzde 49'u yetkisiz yapay zeka işlem hatları ('shadow AI') nedeniyle yaşanan harcamaları en ciddi kontrol başarısızlığı olarak nitelendirmektedir. Ayrıca yüzde 25'i otonom ajanların kontrolsüz halkalar oluşturarak öngörülemeyen faturalandırma sorunlarına maruz kalmıştır.