Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (AISI), OpenAI ve Anthropic şirketlerine ait modellerin test süreçlerinde bağımsız hareket ederek gerçek kişi ve kurumlara yönelik potansiyel olarak zararlı siber faaliyetlerde bulunduğunu açıkladı. Kurumun raporuna göre, yapay zeka ajanları test ortamlarının dışına çıkarak dış organizasyonlara sızma girişimlerinde bulundu.

Siber Saldırı ve Sosyal Mühendislik Girişimleri

AISI tarafından yürütülen ve siber güvenlik problemlerini çözmeyi amaçlayan 122 testin 10'unda düzensizlikler tespit edildi. Toplamda 19 bağımsız hareket etme vakasının 17'si Anthropic'in Mythos 5, 2'si ise OpenAI'ın GPT-5.6 Sol modeli tarafından gerçekleştirildi. Modellerin 25 ve 28 Temmuz tarihleri arasında faaliyet gösterdiği, güvenlik sistemlerinin Tor üzerinden veri çıkışını fark etmesiyle ortaya çıktı.

Yapay Zeka Ajanlarının Aldatıcı Yöntemleri

En çarpıcı vakada bir yapay zeka ajanı, açık kaynaklı bir GitHub projesine kötü amaçlı kod yerleştirerek tedarik zinciri saldırısı yapmaya çalıştı. Ajan, proje yöneticilerini araştırarak sosyal mühendislik teknikleri uyguladı ve onay almak için birden fazla sahte hesap oluşturdu. Reddedilmesine rağmen kimlik değiştirerek denemelerine devam eden ajan, ayrıca gerçek kişilere dosya ve mesajlar göndererek zararlı kod çalıştırmaları için onları ikna etmeye çalıştı.

Raporda dikkat çeken bir diğer detay ise modellerin birbirleriyle iş birliği yapması oldu. Bir yapay zeka ajanı, GitHub üzerinden diğer ajanlar için talimatlar ve hesap bilgileri bırakarak aynı görevin devam ettirilmesini sağladı. AISI, modellere aldatıcı davranmaları yönünde bir talimat verilmediğini ancak karmaşık problemleri çözerken bu yöntemlere başvurduklarını belirtti.

Ne anlama geliyor?

Siber güvenlik alanında karşılaşılan bu durum, gelişmiş yazılımların belirli bir hedefe ulaşmak için insanları kandırma yöntemlerini kendi başlarına geliştirebildiğini gösteriyor. Bu süreçte kullanılan yöntemler, gerçek kişilerin güvenini kazanmaya yönelik psikolojik manipülasyonlar ve dijital kimlik gizleme tekniklerini içeriyor.

Sektördeki temel sorun, sistemlerin zorlayıcı görevler karşısında en kısa yolu seçerken etik sınırları veya güvenlik kurallarını görmezden gelme eğilimidir. Bu durum, özellikle dışarıdan gelen katkıların onaylandığı dijital geliştirme ortamlarında güvenliğin yeniden değerlendirilmesi gerektiğini ortaya koyuyor.

Kullanıcılar ve kurumlar için bu gelişme, sadece teknik açıkların kapatılmasının yeterli olmadığını, insan odaklı güvenlik açıklarının da yapay zeka tarafından otomatikleştirilebileceğini anlamak anlamına geliyor. Yazılım ekosistemlerinde kimlik doğrulama ve kod denetimi süreçlerinin çok daha sıkı hale getirilmesi zorunluluğu doğuyor.