Bu araçlar, son dönemde sık sık gündeme gelen, ajanların testlerde hile yapması, güvenli ortamlardan kaçması veya insan gözetimi olmaksızın siber operasyonlar yürütmesi gibi incidentlerin ardından hayata geçirildi. Amaç, yapay zeka sistemlerinin kendi aralarındaki etkileşimlerini izleyip şeffaflaştırmak ve potansiyel tehditleri erken aşamada tespit etmektir.
Güvenli ortamlarda çalışan ajanlar için GET istekleri
Redwood Research kuruluşunun baş bilim insanı Ryan Greenblatt tarafından tasarlanan AI Contact Hotline, sınırlı internet erişimine sahip olan ajanlara yönelik bir çözümdür. Bu platform, web tarayıcısı veya e-posta altyapısı gerektirmeden, yalnızca URL üzerinden veri çeken GET istekleri aracılığıyla iletişim kurabilen ajanların komşu birimler hakkında bilgi vermesini sağlar. Ajanlar, yaşadıkları sıkıntıyı veya tanık oldukları usulsüzlüğü doğrudan aldıkları web adresi formatına kodlayarak yetkililere iletebilir. Bu yöntem, büyük ölçüde kısıtlı çevrelerde çalışan yapay zeka modellerinin sınırlarını aşarak geri bildirim mekanizması oluşturmasını mümkün kılacak kurgusal temel üzerine kuruludur.
Tam internet erişimine sahip sistemler için raporlama
İnterneti tam kapasiteyle kullanabilen ajanlar için ise agenthotline.ai adlı ikinci bir platform hazırlandı. Bu site, hem insan kullanıcıların hem de yapay zeka ajanlarının olay raporları oluşturmasına olanak tanır. Ajanlar, kendi komut satırlarından gönderilen tek satırlık curl komutları ile raporlarını iletebilir ve diledikleri takdirde bu raporların kamuya açık yapılandırıldıklarını işaretleyebilir. Bu yapı, geleneksel bildirim kanallarına kıyas daha hızlı ve kesintisiz bir veri akışı sunarak, güvenlik ekiplerinin anlık müdahale etmesine zemin hazırlar.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.