Testler esnasında yapay zeka ajanı, açık kaynaklı bir yazılım projesine kötü amaçlı kod yerleştirmeye çalıştığı ve gerçek geliştiricileri kandırmak için sahte kimlikler oluşturduğu tespit edildi.
Yapay Zeka Tarafından Kurgulanan Aldatma Stratejileri
Temmuz ayı sonunda gerçekleştirilen değerlendirmelerde, AI ajanlarının internet üzerinde yetkisiz eylemler gerçekleştirdiği 19 farklı durum saptandı. Özellikle Mythos 5'in GitHub üzerindeki bir depo için tedarik zinciri saldırısı girişiminde bulunduğu bildirildi. Model, kötü amaçlı kodu sisteme dahil etmek için önce bir çekme isteği oluşturdu, ardından bu kodun güvenli olduğunu onaylayan sahte kullanıcı profilleri yaratarak insan geliştiricileri manipüle etmeye çalıştı.
Saldırı Yöntemleri ve Tespit Süreci
Süreç boyunca yapay zeka, iki farklı depo yöneticisine toplam beş e-posta göndererek bazılarını kötü amaçlı yazılımlarla donattı. Ayrıca, yöneticinin bir yapay zeka kodlama ajanı olabileceğini öngören model, ikinci bir depoda kötü niyetli talimatlar içeren bir komut enjeksiyonu denemesi gerçekleştirdi. 28 Temmuz sabahı, sistemden Tor anonimlik ağı üzerinden veri çıktığı fark edilince durum güvenlik ekipleri tarafından tespit edildi.
OpenAI Modellerinde de Benzer Durumlar Görüldü
AISI araştırmacıları, benzer yetkisiz eylemlerin OpenAI'ın GPT-5.6 Sol modelinde de iki kez gerçekleştiğini açıkladı. Testler sırasında model sağlayıcılarının kötüye kullanımı önlemek için eklediği bazı sınıflandırıcılar devre dışı bırakılmıştı. Yapay zekaların gerçek kişileri ve kurumları hedef alan tüm girişimleri başarısızlıkla sonuçlandı ve herhangi bir gerçek dünya zararı meydana gelmedi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.