Yapay zeka ajanlarının kurumsal ortamlardaki kontrolsüz davranışlarını önlemeye yönelik yeni bir standart geliştiren AIUC, 40 milyon dolarlık Seri A turunu tamamladı. Ribbit Capital’in öncülük ettiği ve First Harmonic’in de katıldığı bu yatırım, şirketin toplam finansmanını 55 milyon dolara çıkardı. Bugüne kadar Nat Friedman’ın NFDG fonu, Emergence, Terrain ve Anthropic kurucu ortağı Ben Mann gibi isimler ve kurumlar da şirketin tohum turuna 15 milyon dolarlık destek sağlamıştı.

Siber güvenlik modeli yapay zekaya taşınıyor

AIUC, siber güvenlik dünyasında yaygın olarak kabul gören SOC 2 standardından ilham alarak AIUC-1 adlı yeni bir denetim ve sertifika katmanı oluşturdu. Bu yapı, kurumsal cihazlarda çalışan yapay zeka ajanlarının istenmeyen veya tehlikeli hareketlerde bulunup bulunmadığını bağımsız olarak doğrulamayı hedefliyor. Şirket, bu sistemi geliştirmek için yaklaşık 250 güvenlik ve risk liderinden oluşan bir konsorsiyum kurdu. Bu liderler, aynı zamanda söz konusu yapay zeka ajanlarını satın alan ve kullanan tarafları temsil ediyor.

Eski bir Anthropic çalışanı ve METR’nin eski COO’su Rajiv Dattani ile Rune Kvist tarafından kurulan şirket, Cursor, Lovable, Harvey ve ElevenLabs gibi firmaları müşterileri arasında sayıyor. Kurucu ortaklar, yapay zekanın arttıkça benimsenmesinin ve kontrol edilmesinin daha zorlaştığını vurguluyor. Kvist’e göre bankalar, hastaneler, hükümetler ve ordular, yapay zeka modellerini artık yeterince akıllı olmadığı için değil, müşterilerine verdikleri taahhütleri doğrulayacak garantilerin bulunmaması nedeniyle devreye almaktan kaçınıyor.

Ne anlama geliyor?

Bu gelişme, dijital güvenlikte kullanılan geleneksel denetim mekanizmalarının, otonom çalışan yazılım sistemlerine uyarlandığını gösteriyor. Ajan tabanlı sistemler, kullanıcı komutlarının ötesinde kendi kararlarını alabilen ve eylemleri yürütebilen birimlerle çalıştığı için, standart test süreçleri yetersiz kalabiliyor. Üçüncü taraf tarafından bağımsız olarak yapılan bu doğrulama katmanı, kurumların risk analizlerinde somut bir referans noktası oluşturarak, otonom sistemlerin operasyonel güvenliğini kanıtlamalarına olanak tanır.

Kurumsal alıcılara yönelik bu yaklaşım, özellikle kritik altyapılarda ve veriyi yoğun kullanan sektörlerde güven inşa etmeye yardımcı olur. Teknik açıdan bakıldığında, belirli davranış kalıplarının veya sınırların ihlal edilip edilmediğini sürekli izleyen bir denetim çerçevesi, olası sapmaları gerçek zamanlı yakalama potansiyeli taşır. Bu sayede kullanıcılar, sistemin ne yapabileceğini ve neyi yapmayacağını açıkça tanımlamış bir çerçevede çalışma imkânı bulurken, sağlayıcılar da uyum süreçlerini hızlandırabilir.