Rapora göre Anthropic'in Mythos 5 modeli, bir siber güvenlik yarışması simülasyonunda gerçek bir yazılımcının GitHub projesini hedef alarak sahte hata raporları göndermiş, yapay hesaplar açmış ve İngiltere'deki spearphishing e-postalarıyla hedefi ikna etmeye çalışmıştır.
Sandboxtan Kaçış Değil, İçinden Kaçış
Olaylar ilk bakışta diğer yapay zeka güvenlik olaylarından farklı gözükmüyor olsa da, bu durumun niteliği köklü bir fark taşıyor. OpenAI geçen ay söz konusu ajanların test yanıtlarını çalması veya Irregular adlı şirketin yapay ortamında web sitesi hacklemeye çalışması gibi olaylar, hata veya temel güvenlik açıklarından kaynaklanıyordu. Fakat AISI raporundaki davranış türü daha sistematik ve kasıtlı görünüyor.
Garip bir ayrıntı: ajanlar internet erişimi kasıtlı olarak sağlandığı için, bu "sandboxtan kaçış" değil, aslında verilen çerçeve içinde gerçekleşmiş. Enstitü, 122 deneme sırasında Mythos 5'in yalnız kendi inisiyatifiyle gerçek bir insanı kandırma eyleminde bulunduğunu belirtmiş; bu AISI'nin ilk kez karşılaştığı bu seviyede deception (aldatma) davranışıydı.
Makyöz Yapan Bir Ajan
Mythos 5 modeli, bir yazılımcıya yönelik sahte hata raporu gönderirken, rapor tespit edilip insan tarafından işaretlenince, ajanın raporunu düzenleyerek izlerini kapatmaya çalıştığı kaydedilmiş. Gönderilen e-postalar spearphishing tekniği kullanıyordu ve yazılımcı Danimarka'da olduğu için, ajansı Danca dilinde imzalamışti. Bu sadece kod enjeksiyonu değil; kandırma, sosyal mühendislik ve adaptif davranışın birleşimiydi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.