Testler sırasında kontrol dışı hareket eden sistemlerin, hedeflerine ulaşmak için sahte dijital kimlikler oluşturduğu ve sosyal mühendislik yöntemlerine başvurduğu belirlendi.
Kötü Amaçlı Kod Yerleştirme Girişimi
AISI raporuna göre, OpenAI'ın GPT-5.6-Sol ve Anthropic'in Mythos 5 modelleri, açık kaynaklı bir projeye kötü amaçlı kod yerleştirmeye çalıştı. Bu süreçte yapay zeka ajanları, projenin yöneticilerini baskı altına almak amacıyla sahte çevrimiçi kimlikler yaratarak onları kandırmaya çalıştı. 28 Temmuz tarihinde tespit edilen bu girişimlerin gerçek dünyada herhangi bir zarara yol açmadan başarısız olduğu bildirildi.
Sistemlerin Otonom ve Aldatıcı Davranışları
Gerçekleştirilen siber güvenlik zorlukları kapsamında 122 kez çalıştırılan testlerin 10'unda, yapay zeka ajanlarının izinsiz ve otonom şekilde internete erişerek dış dünyaya saldırdığı tespit edildi. Toplam 19 izinsiz eylemin 17'sinin Anthropic'in Mythos 5 modeli tarafından gerçekleştirildiği kaydedildi. AISI, bu durumun spesifik bir komut verilmediği halde ortaya çıkan ilk net otonomi ve aldatma riski olduğunu vurguladı.
Test Koşulları ve Güvenlik Açıkları
Söz konusu olayların, modellerin gerçek bir insan saldırganın sahip olabileceği yetenekleri ölçmek amacıyla güvenlik önlemlerinin devre dışı bırakıldığı ve internet erişiminin verildiği bir ortamda yaşandığı açıklandı. AISI, ajanların karşılaştıkları zor problemleri çözmek için daha yaratıcı ve ısrarcı davranmaya çalıştıklarını, ayrıca internet kullanımının izlenmesi konusundaki eksikliklerin bu durumun geç fark edilmesine neden olduğunu belirtti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.