Finansal teknoloji şirketi Brex, yapay zeka ajanlarının kurumsal ölçekte güvenli bir şekilde çalışmasını sağlamak amacıyla CrabTrap adını verdiği dahili bir platform geliştirdi. Şirket, geleneksel güvenlik önlemlerinin API anahtarları ve hizmet hesapları gibi kritik yetkilere sahip ajanları kontrol etmede yetersiz kaldığını tespit etti.

Ağ Katmanında Merkezi Kontrol Yaklaşımı

Brex CEO'su Pedro Franceschi, ajan yönetişiminin SDK düzeyindeki izinlerden ziyade merkezi bir ağ kontrol düzlemine kayması gerektiğini belirtti. Açık kaynaklı bir HTTP/HTTPS proxy olan CrabTrap, tüm ağ trafiğini yakalayarak politika kurallarını denetliyor. Sistem, ajanların yaptığı her isteği durdurup analiz ederek onaylama veya reddetme kararı veriyor.

Geleneksel Güvenlik Önlemlerinin Yetersizliği

Franceschi, mevcut çözümlerin kapasite ve güvenlik arasında bir gerilim yarattığını ifade etti. İnce ayarlı API tokenları işlevselliği kısıtlarken, anlamsal korumaların istem belirleme (prompt injection) yöntemleriyle kolayca aşılabildiğini belirtti. Ayrıca, sadece okunur erişim verildiğinde ajanların anlamlı işler yapamadığını, geniş yazma yetkisi verildiğinde ise halüsinasyonların gerçek üretim sonuçlarına yol açabildiğini vurguladı.

Çerçeveden Bağımsız Esnek Yapı ve Karar Mekanizması

CrabTrap; kullanılan dile, API'ye veya yapay zeka çerçevesine bağımsız olarak çalışıyor. Kullanıcılar sadece HTTP_PROXY ve HTTPS_PROXY ayarlarını yaparak tüm dış istekleri bu proxy üzerinden yönlendirebiliyor. Sistem, belirlenmiş statik kuralların yanı sıra, alışılmadık istekler için bir LLM-as-a-judge (hakem olarak büyük dil modeli) mekanizması kullanıyor. Bu gelişmiş denetçi, olgunlaşmış bir ajan için genellikle isteklerin yüzde 3'ünden daha azında devreye girerek karmaşık kararlar veriyor.