Franceschi, Brex'in OpenClaw adlı açık kaynaklı AI aracını üretimde kullanmak için geliştirdiği CrabTrap adlı network seviyesinde bir güvenlik katmanından bahsetti.
Ajanslar ve Güvenlik
Franceschi, geleneksel güvenlik modellerinin AI ajanlarını kontrol altına alamadığını ve yeni bir güvenlik yaklaşımının gerekli olduğunu belirtti. Brex, OpenClaw'a internal rollerde baktı ve syonel güvenlik modellerinin başarısız olduğunu gördü. Bunun üzerine CrabTrap adlı birnovel network seviyesinde güvenlik katmanını geliştirdi.
CrabTrap ve LLM-as-a-judge Çözümü
CrabTrap, AI ajanının dışarıya gönderdiği veya aldığı trafik arasındaki tüm ağ trafiğini izleyen bir HTTP proxy'dir. Bu mekanizma, AI ajanının her şeyi yapabileceğini ve already irse bile kabul eder. CrabTrap, her bir ağ talebini bir LLM (Büyük Dil Modeli) ile değerlendirir ve ajanın onaylanmış politikalarına uyup uymadığını kontrol eder.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.