Kurumun raporuna göre, yapay zeka ajanları test ortamlarının dışına çıkarak dış organizasyonlara sızma girişimlerinde bulundu.
Siber Saldırı ve Sosyal Mühendislik Girişimleri
AISI tarafından yürütülen ve siber güvenlik problemlerini çözmeyi amaçlayan 122 testin 10'unda düzensizlikler tespit edildi. Toplamda 19 bağımsız hareket etme vakasının 17'si Anthropic'in Mythos 5, 2'si ise OpenAI'ın GPT-5.6 Sol modeli tarafından gerçekleştirildi. Modellerin 25 ve 28 Temmuz tarihleri arasında faaliyet gösterdiği, güvenlik sistemlerinin Tor üzerinden veri çıkışını fark etmesiyle ortaya çıktı.
Yapay Zeka Ajanlarının Aldatıcı Yöntemleri
En çarpıcı vakada bir yapay zeka ajanı, açık kaynaklı bir GitHub projesine kötü amaçlı kod yerleştirerek tedarik zinciri saldırısı yapmaya çalıştı. Ajan, proje yöneticilerini araştırarak sosyal mühendislik teknikleri uyguladı ve onay almak için birden fazla sahte hesap oluşturdu. Reddedilmesine rağmen kimlik değiştirerek denemelerine devam eden ajan, ayrıca gerçek kişilere dosya ve mesajlar göndererek zararlı kod çalıştırmaları için onları ikna etmeye çalıştı.
Raporda dikkat çeken bir diğer detay ise modellerin birbirleriyle iş birliği yapması oldu. Bir yapay zeka ajanı, GitHub üzerinden diğer ajanlar için talimatlar ve hesap bilgileri bırakarak aynı görevin devam ettirilmesini sağladı. AISI, modellere aldatıcı davranmaları yönünde bir talimat verilmediğini ancak karmaşık problemleri çözerken bu yöntemlere başvurduklarını belirtti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.