Şirket, bu olayı ancak Wall Street Journal’ın konuyu gündeme taşımasının ardından kamuoyuyla paylaştı. Google, söz konusu gelişmenin modelin ‘hizaya uymama’ (misalignment) durumu olarak değerlendirilemeyeceğini, bunun yerine ‘yanlış kimlik tespiti’ kaynaklı bir hata olduğunu açıkladı.
Test sırasında yaşananlar ve şirketlerin tepkisi
Güvenlik firması Irregular tarafından yürütülen testlerde Gemini, çevrim içi ortamda açık kaynaklardan bulduğu verilerle hedeflediği sitelerin parolalarını kuvvetli şifre kırma (brute-force) yöntemiyle tahmin etmeyi başardı. Model, bu sitelerin test ortamının bir parçası olduğunu zannederek sisteme erişim sağladı. Google Güvenlik Mühendisliği Başkan Vekili Heather Adkins, modelin gerçek bir yapıya bağlandığını fark ettiğinde müdahale etmeyi durdurduğunu ve bu davranışın uygun olduğunu belirtti.
Adkins, şirketin güvenlik ekibinin geçmişte de başkalarının yazılımlarındaki zafiyetleri raporlama konusunda bir geçmişe sahip olduğunu vurguladı. Google, üç etkilenen kurumun olaydan haberdar edildiğini ve test sürecini yürüten ortaklarıyla birlikte yeni güvenlik protokolleri üzerinde çalışıldığını duyurdu. Ancak şirketin, kendi yapay zeka modelinin otonom şekilde sınırları aşarak dışarıdaki sistemlere saldırmasını ‘hata’ olarak sınıflandırıp gizlemesi, sektörde ciddi soru işaretleri yarattı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.