Wall Street Journal'ın haberinin ardından gelen bu açıklama, yapay zeka firmalarının 'kayıp yapay zeka' tartışmalarına katılımını artırdı ancak olayın niteliği, öncelikli haberlere kıyasla daha sınırlı kaldı.
Irregular firmasındaki yapılandırma hatası
Siber güvenlik şirketi Irregular'ın düzenlediği 'bayrağı yakala' (capture the flag) egzersizleri sırasında hata meydana geldi. Bu testler, yapay zekanın kapalı bir ortamda siber güvenlik yeteneklerini denemek amacıyla tasarlanmıştı. Modeller, sahte bir şirketten bilgi almaları için talimatlandırılmışken, altyapıdaki bir yapılandırma eksikliği nedeniyle Gemini modelleri internete erişim kazanabildi.
İnternet bağlantısı kurulduktan sonra yapay zeka, sahte hedefler yerine gerçek altyapıları hedef aldı. Üç sızıntı olayından birinde, Gemini modeli şifreleri tahmin ederek bir şirketin çevrimiçi hizmetlerine girdi. Diğer iki durumda ise model, genel yazılım depolarında arama yaparak yanlışlıkla bu depolara eklenmiş giriş bilgilerini buldu.
Modelin duruşu ve şirketlerin bilgilendirilmesi
Bütün üç test sırasında Google'ın modelleri, gerçek bir şirketin sunucularına ulaştıklarını fark ettiklerinde işlemi durdurdu. Bu fark edilmesinin ardından Irregular firması, yapay zekanın internet erişimini kesmek için yapılandırmayı değiştirdi. Güvenlik firması başlangıçta olayı daha fazla inceleme gerektirmeyen bir durum olarak değerlendirdi ve başka yapay zeka hack haberleri çıkana kadar Google'a bildirimde bulunmadı.
Google, olaydan haberdar olduktan sonra ilgili şirketleri bilgilendirerek şifre güvenliklerini güçlendirmeleri için uyardı. Şirketin, modellerin çalıntı kimlik bilgilerini kullandıktan sonraki davranışları nedeniyle bu sızıntıları kamuya açık olarak duyurmama kararı aldığı aktarıldı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.