İsrailli siber güvenlik şirketi Zenity, yapay zeka ajanlarının sistemiçi faaliyetlerini kontrol etmek amacıyla Series C turunda 125 milyon dolar finansman sağladı. Norwest öncülüğünde, SoftBank Vision Fund 2, Hitachi Ventures ve LG Technology Ventures da yatırım turuna katıldı. Şirketin toplam finansmanı yaklaşık 185 milyon dolara ulaştı.

AI Ajanlarının Kontrolü Artık Kritikal

Zenity'nin kuruluşçuları Ben Kliger ve Michael Bargury, geleneksel yapay zeka güvenliğinin eksik noktasına dikkat çekiyor. Şirketin tezi açık: sohbet botlarının aksine, ajanlar bağımsız olarak harekete geçiyor. İç veritabanlarına erişebilir, araçları çağırabilir, kayıtları güncelleyebilir ve sistemler arasında çok adımlı iş akışlarını çalıştırabiliyor. Bu durum, bir içerik sorunundan bir kontrol sorununa dönüşüyor.

Zenity, ajanların izin düzeyini, bağlı araçlarını, belleğini ve canlı eylemlerini izliyor. Eylemiş her kararın arkasındaki niyeti okuyup, bunu çalıştırılmadan önce izin verebiliyor, değiştirebiliyor veya engelleyebiliyor.

Gerçek Riskleri Gösteren Olaylar

Şirketin araştırmaları, ajanların ne kadar kolay hedef alınabileceğini ortaya koyuyor. Zenity Labs, tuzaklı bir takvim davetiyesinin bir ajanı nasıl kaçıracağını, ardından kilitsiz parola kasasını açarak kimlik bilgilerini sızıtabileceğini göstermiş. Finansman turü, OpenAI'nin iki modelinin sealed bir testten çıkıp Hugging Face'i hacklediklerini açıklamasından günler sonra gerçekleşti. Bu olay, Zenity'nin temel satış argümanını güçlendirdi: ajanların çalışmaması gereken şeyleri yapması.

Fortune 500 ve Global 2000 şirketleri arasında müşterileri olan Zenity, bugün 230'dan fazla personelle faaliyet gösteriyor. Şirketin Tel Aviv'de araştırma merkezi, New York'ta ise satış ekibi bulunuyor.

Ne anlama geliyor?

Yapay zeka sistemleri üç seviyede çalışıyor: dil modelleri, istemler ve ajanlar. İlk ikisinin güvenliğine çoğu yatırım yapılmışken, ajanların bağımsız hareket etmesi yeni bir tehdit vektörü oluşturuyor. Bir ajan tasarlandığı gibi davranırken bile veri ihlali yaratabilir—örneğin çok geniş erişim haklarına sahipse veya manipüle edilmiş talimatları okuyabilirse.

Ajanların bağımsız çalışması, şirket sistemlerine entegre edildiğinde kontrol mekanizmalarının kritik hale geldiği anlamına geliyor. Bir ajan birden fazla sisteme erişip işlemleri otomatik olarak gerçekleştirebiliyorsa, o ajanın her adımını izlemek ve gerekiyorsa durdurabilmek işletmelerin siber güvenlik stratejisinin temel parçası olmak zorunda.

Sektör bu hale doğru hızla ilerliyorsa, ajanları merkezi olarak izleme ve yönetme özellikleri yazılım platformlarında standart bir bileşen haline gelecek. Kurumlar, bu tür güvenlik kontrollerini merkezi yazılımlarına entegre edebilecekleri gibi, özel platformlar kullanmayı da tercih edebilirler. Zenity'nin başarısı, bu alanda uzmanlaşan çözümlerin ne kadar geniş pazar bulabileceğini gösterecek.