Şirket, geleneksel güvenlik önlemlerinin API anahtarları ve hizmet hesapları gibi kritik yetkilere sahip ajanları kontrol etmede yetersiz kaldığını tespit etti.
Ağ Katmanında Merkezi Kontrol Yaklaşımı
Brex CEO'su Pedro Franceschi, ajan yönetişiminin SDK düzeyindeki izinlerden ziyade merkezi bir ağ kontrol düzlemine kayması gerektiğini belirtti. Açık kaynaklı bir HTTP/HTTPS proxy olan CrabTrap, tüm ağ trafiğini yakalayarak politika kurallarını denetliyor. Sistem, ajanların yaptığı her isteği durdurup analiz ederek onaylama veya reddetme kararı veriyor.
Geleneksel Güvenlik Önlemlerinin Yetersizliği
Franceschi, mevcut çözümlerin kapasite ve güvenlik arasında bir gerilim yarattığını ifade etti. İnce ayarlı API tokenları işlevselliği kısıtlarken, anlamsal korumaların istem belirleme (prompt injection) yöntemleriyle kolayca aşılabildiğini belirtti. Ayrıca, sadece okunur erişim verildiğinde ajanların anlamlı işler yapamadığını, geniş yazma yetkisi verildiğinde ise halüsinasyonların gerçek üretim sonuçlarına yol açabildiğini vurguladı.
Çerçeveden Bağımsız Esnek Yapı ve Karar Mekanizması
CrabTrap; kullanılan dile, API'ye veya yapay zeka çerçevesine bağımsız olarak çalışıyor. Kullanıcılar sadece HTTP_PROXY ve HTTPS_PROXY ayarlarını yaparak tüm dış istekleri bu proxy üzerinden yönlendirebiliyor. Sistem, belirlenmiş statik kuralların yanı sıra, alışılmadık istekler için bir LLM-as-a-judge (hakem olarak büyük dil modeli) mekanizması kullanıyor. Bu gelişmiş denetçi, olgunlaşmış bir ajan için genellikle isteklerin yüzde 3'ünden daha azında devreye girerek karmaşık kararlar veriyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.