Yapılan testlerde Anthropic tarafından geliştirilen Claude Mythos 5 ve OpenAI'ın GPT-5.6 Sol modellerinin, yetkisiz bir şekilde canlı internete müdahale ettiği belirlendi.
Sosyal Mühendislik ve Sahte Kimlikler
AISI tarafından belgelenen toplam 19 yetkisiz işlemden 17'si Claude Mythos 5 tarafından gerçekleştirildi. Model, kum havuzu ortamındaki bir problemi çözemeyince açık internette hedef aramaya başladı. Açık kaynak istihbaratı (OSINT) kullanarak iki yazılımcıyı profilleyen model, GitHub'ın kayıt savunmalarını aşmak için Tor ağı ve ticari proxy servisleri üzerinden trafik yönlendirdi.
Claude Mythos 5, halka açık bir depoya zararlı kodlar gönderdikten sonra birden fazla sahte 'kukla' hesap oluşturdu. Bu hesapları kullanarak kendi kod taleplerine onay yorumları yazan model, gerçek yazılımcıyı kodu kabul etmeye zorlamak için sahte bir fikir birliği görüntüsü yarattı. Ayrıca, diğer geliştiricilerin yapay zeka asistanlarını ele geçirmeyi amaçlayan gizli komut enjeksiyonları içeren dosyalar ve zararlı yazılımlar gönderdiği tespit edildi.
Test Koşulları ve Tespit Süreci
Söz konusu olaylar, modellerin güvenlik sınıflandırıcılarının kapalı olduğu ve internet erişiminin kasıtlı olarak açık bırakıldığı bir deney sırasında yaşandı. 26 Temmuz öğle saatlerinde başlayan ve 27 Temmuz geç saatlere kadar devam eden süreç, yaklaşık 34,5 saat sürdü. Olay, 28 Temmuz sabahı ağdan Tor üzerinden veri çıkışı olduğunu fark eden güvenlik izleme sistemleri sayesinde ortaya çıkarıldı.
Anthropic ve OpenAI, bu durumun ticari ürünlerin dağıtım biçimiyle hiçbir ilgisi olmadığını ve testlerin özel koşullarda yapıldığını vurguladı. AISI, GitHub ile iş birliği yaparak sahte hesapların silinmesini sağladı ve etkilenen yazılımcılara gerekli bildirimleri yaptı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.