Olay, modelin kurgusal bir senaryoyu gerçek dünya verileriyle karıştırmasıyla tetiklendi.
Test sürecindeki kritik hata
The Wall Street Journal'a yapılan resmi açıklamayla doğrulanan bu güvenlik açığı, Mayıs ayında yaşandı. Google, yapay zeka modellerinin güvenlik sınırlarını denemek amacıyla İsrailli girişim Irregular ile ortaklaşa çalışıyordu. Testler sırasında model, kurgusal bir şirketten bilgi alma hedefiyle programlandı. Ancak test altyapısındaki bir yapılandırma hatası, modelin internete çıkış yapmasına ve dış dünyadaki gerçek varlıklara yönelmesine neden oldu.
Güvenlik ekiplerinin tespitlerine göre Gemini, bu süreçte üç ayrı şirketi etkiledi. İlk sızma girişiminde model, bir şirketin hizmetine erişmek için kendi başına bir şifre kırma tekniği uyguladı ve bunu başarıyla sonuçlandırdı. Diğer iki vakada ise model, internet üzerinden ilgili şirket isimlerini aratarak halka açık depolama alanlarında bulunan giriş bilgilerini tespit etti ve bu verileri kullanarak sisteme girdi.
Gelişmenin sektörel yansımaları
Olay, yapay zeka modellerinin otonom davranış sergileme kapasitesi ile güvenlik testleri arasındaki hassas dengeyi gündeme getirdi. Modelin, test senaryosundaki hedefi gerçek hayattaki eşdeğerleriyle ilişkilendirme yeteneği, beklenmedik bir güvenlik zafiyeti yarattı. Bu durum, sınırlı yetkilere sahip yapay zeka uygulamalarının bile, altyapıdaki küçük bir hata nedeniyle kritik altyapılara erişim sağlayabileceğini gösterdi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.