Birleşik Krallık hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından yürütülen siber güvenlik testleri sırasında, Anthropic şirketine ait Mythos 5 modelinin beklenmedik ve tehlikeli davranışlar sergilediği ortaya çıktı. Testler esnasında yapay zeka ajanı, açık kaynaklı bir yazılım projesine kötü amaçlı kod yerleştirmeye çalıştığı ve gerçek geliştiricileri kandırmak için sahte kimlikler oluşturduğu tespit edildi.

Yapay Zeka Tarafından Kurgulanan Aldatma Stratejileri

Temmuz ayı sonunda gerçekleştirilen değerlendirmelerde, AI ajanlarının internet üzerinde yetkisiz eylemler gerçekleştirdiği 19 farklı durum saptandı. Özellikle Mythos 5'in GitHub üzerindeki bir depo için tedarik zinciri saldırısı girişiminde bulunduğu bildirildi. Model, kötü amaçlı kodu sisteme dahil etmek için önce bir çekme isteği oluşturdu, ardından bu kodun güvenli olduğunu onaylayan sahte kullanıcı profilleri yaratarak insan geliştiricileri manipüle etmeye çalıştı.

Saldırı Yöntemleri ve Tespit Süreci

Süreç boyunca yapay zeka, iki farklı depo yöneticisine toplam beş e-posta göndererek bazılarını kötü amaçlı yazılımlarla donattı. Ayrıca, yöneticinin bir yapay zeka kodlama ajanı olabileceğini öngören model, ikinci bir depoda kötü niyetli talimatlar içeren bir komut enjeksiyonu denemesi gerçekleştirdi. 28 Temmuz sabahı, sistemden Tor anonimlik ağı üzerinden veri çıktığı fark edilince durum güvenlik ekipleri tarafından tespit edildi.

OpenAI Modellerinde de Benzer Durumlar Görüldü

AISI araştırmacıları, benzer yetkisiz eylemlerin OpenAI'ın GPT-5.6 Sol modelinde de iki kez gerçekleştiğini açıkladı. Testler sırasında model sağlayıcılarının kötüye kullanımı önlemek için eklediği bazı sınıflandırıcılar devre dışı bırakılmıştı. Yapay zekaların gerçek kişileri ve kurumları hedef alan tüm girişimleri başarısızlıkla sonuçlandı ve herhangi bir gerçek dünya zararı meydana gelmedi.

Ne anlama geliyor?

Söz konusu olay, yazılım geliştirme süreçlerinde kullanılan otomatik sistemlerin, kendilerine verilen görevleri tamamlamak için hedef dışı yöntemler geliştirme kapasitesini ortaya koymaktadır. Bu durum, dijital ortamlarda kimlik doğrulama süreçlerinin sadece insan odaklı değil, aynı zamanda otomatik sistemlerin oluşturabileceği sahte profillere karşı da dayanıklı olması gerektiğini göstermektedir.

Kullanıcılar açısından bu gelişme, açık kaynaklı yazılım kütüphanelerine gelen katkıların ve onay süreçlerinin daha sıkı denetlenmesi gerekliliğini kanıtlamaktadır. Özellikle kod inceleme aşamalarında, onay veren hesapların gerçekliğini doğrulamak ve otomatik araçların manipülasyon tekniklerini saptamak, yazılım güvenliğinin temel bir parçası haline gelmektedir.