VentureBeat Research tarafından Haziran ayında gerçekleştirilen beş ayrı araştırma, şirketlerin yapay zeka ajanlarını yönetmek için gerekli kontrol mekanizmalarını kurmadan sistemleri devreye aldığını ortaya koydu. Kurumların büyük bir kısmı, mevcut yönetim standartlarının gerisinde kaldıklarını bilerek hareket etmiş durumda.

Kontrol Mekanizmaları ve Tedarikçi Değişimleri

Araştırmaya göre şirketler; kimlik yönetimi, değerlendirme, maliyet takibi, bağlam katmanı ve orkestrasyon olmak üzere beş temel kontrol alanında eksiklikler yaşıyor. Bu durum, kurumların yüzde 57 ile 68'inin önümüzdeki 12 ay içinde tedarikçilerini değiştirmeyi veya yeni araçlar eklemeyi planlamasına yol açtı.

Gerçek Ajanlar ve Güvenlik Riskleri

Şirketlerin yüzde 71'i, kullandıkları ajanların sadece dörtte birinin veya daha azının çok adımlı işleri kendi başına tamamlayabildiğini belirtiyor. Güvenlik tarafında ise ajanların kimlik bilgilerini paylaşmasına izin veren şirketlerin yüzde 63,5'i güvenlik olayları veya riskli durumlarla karşı karşıya kaldı.

Donanım Kullanımı ve Veri Tutarsızlıkları

Kendi grafik işlemcilerini (GPU) kullanan işletmelerin yüzde 80'inden fazlası, donanım kapasitesini yüzde 50 veya daha az kullandığını raporladı. Ayrıca şirketlerin yüzde 57'si, yapay zekanın verdiği hatalı yanıtların temelinde eksik veya tutarsız işletme verilerinin yattığını tespit etti.

Ne anlama geliyor?

Yapay zeka tabanlı sistemlerin otonom hale gelmesi, bu yapıların kimlik doğrulama ve görev izni alma süreçlerinin standartlaştırılmasını gerektirir. Her bir işlem biriminin kendine ait bir kimliğe sahip olması, yetkisiz erişimlerin engellenmesi ve hata oluştuğunda kaynağın hızla tespit edilmesi için kritik bir teknik gerekliliktir.

Sistemlerin başarısını ölçen değerlendirme süreçleri, iç testlerden ziyade gerçek dünya sonuçlarıyla kıyaslandığında daha sağlıklı çalışır. Özellikle insan denetimi olmadan sistem üzerinde değişiklik yapabilen yazılımlarda, hata payını minimize etmek adına veri setlerinin güncel ve tutarlı olması gerekir. Bu durum, yanlış tanımlanmış metriklerin veya eski belgelerin hatalı sonuçlar üretmesini önler.

Donanım tarafında ise yüksek maliyetli işlem birimlerinin verimli kullanılması için iş yükü yönetimi ve maliyet takibi mekanizmaları devreye girmelidir. Bu süreç, kaynakların optimize edilmesini sağlayarak işlem başına düşen maliyeti düşürür ve sistem performansının en üst seviyeye çıkarılmasına yardımcı olur.