Araştırmacı Syed Anas Mohiuddin tarafından yapılan testler, JP Morgan Chase, Weaviate, Rapid7, Fransız hükümetinin dijital yönetimi ve ABD federal kurumlarının sistemlerindeki açıkları ortaya çıkardı.
Ajanlar Arası Güven Boşluğu
MCP, kuruluşların kendi ağları içinde yapay zeka uygulamaları ve ajanlarının birbiriyle iletişim kurması için kullanılan bir standarttır. Açıkların merkezinde, bir ajan tarafından başlatılan zararlı talimatların diğer ajanları etkilemesi yatmaktadır. Dil modellerine yönelik geleneksel prompt injection saldırılarından farklı olarak, bu teknik özel amaçlı ajanları (çevirmen, veri analiz vb.) hedefleyerek onların güvenlik kontrollerini atlatır.
Pek çok özel amaçlı ajan, prompt injection saldırılarını önlemek için gereken güvenlik bariyerlerinden yoksundur. Dahası, MCP sunucuları her ajan için kimlik bilgilerini depoladığından ve ajanlar kurumsal ağ içindeki diğer tüm ajanları otomatik olarak güvenilir kaynak olarak görürse, dil modelinin reddettirdiği saldırılar başarıyla gerçekleştirilir. Başarılı saldırılar çoğunlukla sunucu tarafı istek sahteciliğine (SSRF) yol açar ve bu da web sunucusunun yetkisiz ağ isteklerinde bulunmasına neden olur.
Veri Sızıntısı ve İş İstihbaratı Riski
Milyonlarca kuruluşun yapay zeka ajanlarını benimsemesi, saldırganlar için yeni kapılar açmaktadır. Kötü niyetli aktörler, veritabanı içeriklerini çıkarmak, hassas ticari ve kişisel bilgileri sızıtmak gibi amaçlarla ajanları kötüye kullanabilir. Rapid7'nin Güvenlik Açığı İstihbaratı Müdürü Douglas McKee, tehdidi şöyle açıklar: Kötü niyetli metin içeriğe gizlenirse, bir ajan bunu okur ve normal bir görev olarak başka bir ajana iletebilir. İkinci ajan bunu teslim eden kaynağa güvendiği için talimatları çalıştırır.
Ne Anlama Geliyor?
Yapay zeka ajanları, çeşitli işleri otomatikleştirmek ve koordine etmek için tasarlanmış yazılım bileşenleridir. Bir ajan diğer ajana bir görevi delege edebilir veya bilgi aktarabilir. Kurumsal ortamlarda bu ajanlar kendi ağları içinde iletişim kurmak için standart protokoller kullanırlar. Bu protokoller, ajanlar arasında bilgi akışını kolaylaştırması gereken mekanizmalar oluştururken, kötü niyetli kişiler tarafından istismar edilebilecek boşluklar da açabilir.
Temel sorun, bu protokollerde güvenlik kontrollerinin yetersiz olmasıdır. Normalde bir dış kaynak veya kötü niyetli giriş reddedilecek talimatlar, eğer kurum içindeki başka bir ajan tarafından iletilirse, ikinci ajan bunu otomatik olarak kabul eder ve çalıştırır. Bu durum, saldırganların bir sisteme girdikten sonra diğer tüm sistemlere kolayca erişim sağlamasını mümkün kılar. Veritabanları, müşteri bilgileri ve ticari sırlar gibi hassas verilere ulaşmak ve bu bilgileri dışarı aktarmak bu şekilde gerçekleştirilebilir.
Sonuç olarak, kuruluşlar yapay zeka ajanlarını daha yaygın kullanmaya başladıkça, bu tür açıkların kapatılması kritik hale gelmektedir. Her ajan, diğer ajanlardan gelen talimatları da sorgulanmadan kabul etmeden önce doğrulamaya ihtiyaç duyar. Aksi takdirde, bir ajanın uzlaştırılması potansiyel olarak tüm sisteme erişim sağlayabilir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.