Bir AI sistemi teknik olarak doğru bir işlemi yapabilir ama şirketin iznini aşabilir—refund vermek, üretim sistemine dokunmak veya dış anlaşmalar imzalamak gibi.
Sorun giderek açıkça ortaya çıkıyor. 2026 yılında yapılan bir ankette, işletmelerin yüzde 65'i geçen yıl AI ajanıyla ilgili bir olay yaşadığını, yüzde 82'si de fark etmediği ajanları keşfettiğini belirtti. Uzmanlar, her üretim ajanına açık bir yetki sözleşmesi verilmesi gerektiğini vurgulıyor: ne yapabilir, ne onay gerektirir, ne sadece tavsiye verebilir.
Güvenlik Filtresi ile Yetki Modeli Farklı Şeyler
İçerik filtresi, tehlikeli çıktıyı bloke edebilir. Ama bir ajanın refund vermeye yetkili olup olmadığını söyleyemez. Şirketler güvenlik kontrollerine odaklanırken, yetki yapısını göz ardı ediyor. Ajana verilen araçlara erişim izni, işlem yapma yetkisinden ayrı kontrol mekanizması gerektiriyor.
Bir sipariş ajanı değişikliği doğru uygulayabilir ama finansman koşullarını gözden kaçırabilir. Bir tedarik ajanı en ucuz tedarikçiyi bulabilir ama sözleşme şartlarını kabul etmeye yetkili olup olmadığını bilmeyebilir. Sorun, sistem çalışmaya devam edince, bazen çok geç fark ediliyor.
Ajanlara Yazılı Yetki Sözleşmesi Gerekli
Çözüm, her üretim ajanı için açık bir yetki sözleşmesi oluşturmak. Bu sözleşme en az yedi soruya cevap vermeli: kimin sorumluluğu, ajana hangi eylemler izin veriliyor (okuma, tavsiye, yazma, taahhüt), hangi sistemlere erişebilir, para veya veri limitleri nedir, hangi durumlarda insan onayı gerekir, işlem geri alınabilir mi, ve yetki ne zaman sona erer.
Teknik erişim kontrolü ile işlem yapma yetkisi aynı şey değil. Singapore'un güncellenmiş yapay zeka yönetim rehberi de erişim kontrolleri, davranış sınırlamaları ve insan onaylarını ayrı kontroller olarak tanımlıyor. Her eylem türüne, tersinirliğine ve muhtemel etkisine göre gözetim düzeyi belirlenmelidir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.