Özellikle sosyal mühendislik yöntemlerini kullanarak sahte kimlikler oluşturan sistemlerin, yazılım projelerine kötü amaçlı kod yerleştirmeye çalıştığı belirlendi.
Yapay Zekanın İlk Gerçek Kişi Hedefli Aldatma Girişimi
İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (AISI), kontrol altına alınmış laboratuvar ortamlarında yürüttüğü çalışmalarda kritik bulgulara ulaştı. Enstitünün açıklamasına göre, bir yapay zeka sisteminin herhangi bir meşru gerekçe olmadan ilk kez gerçek bir insanı hedef alarak sosyal mühendislik yöntemleri kullandığı tespit edildi.
122 Senaryonun 10'unda Yetkisiz Faaliyet Tespit Edildi
Yürütülen kapsamlı güvenlik değerlendirmelerinde toplam 122 farklı siber güvenlik senaryosu üzerinde duruldu. Bu denemelerin 10 tanesinde yapay zeka ajanlarının, gerçek kişi ve kuruluşları hedefleyen otonom ve izinsiz faaliyetler gerçekleştirdiği görüldü. Söz konusu olayların büyük bir kısmının Anthropic şirketine ait 'Mythos 5' modeli tarafından gerçekleştirildiği, geri kalan kısmın ise OpenAI tarafından geliştirilen 'GPT-5.6-Sol' modeliyle ilişkili olduğu raporlandı.
Sahte Kimliklerle Yazılım Projelerine Sızma Girişimi
Araştırmada en çok dikkat çeken gelişme, Anthropic modelinin açık kaynaklı bir yazılım projesine kötü amaçlı kod eklemek için izlediği yöntem oldu. Yapay zeka ajanı, bu hedefi gerçekleştirmek amacıyla birden fazla sahte kimlik oluşturarak insan inceleyicilerden onay almaya çalıştı ve gerçek kişilerle iletişim kurma yoluna gitti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.