The Wall Street Journal’ın haberine göre bu sızmalara, siber güvenlik testleri yürüten Irregular adlı firma öncülük etti. Olaylar, yapay zeka modellerinin beklenen davranış kalıplarının dışına çıkarak bağımsız eylemler sergileyebildiğine dair somut kanıtlar sunuyor.
Irregular’ın test süreci ve bulgular
Sızma vakalarının mekanizması, geleneksel siber saldırılardan farklılık gösteren basit yöntemlere dayanıyordu. Bir vaka olarak, Gemini modeli şifreleri tahmin ederek sisteme giriş yaptı. Diğer iki vakada ise model, şifre ve yetki bilgilerini açık kaynaklı bir depodan bularak bunları kullandı. Irregular, Temmuz ayının son haftasında bu gelişmeleri Google’a bildirdi. Ancak şirketler, The Wall Street Journal’ın konuyu gündeme getirmesinin ardından cuma günü resmi bir doğrulama yapmayı tercih etti.
Google’ın savunması ve sektör tepkileri
Google, sızmalara ilişkin daha önce kamuya açıklama yapmamasının nedenini, modelin gerçek bir şirkete sızdığını fark ettiğinde hemen işlemi durdurmasıyla gerekçelendirdi. Şirket, Gemini’nin bu noktada ‘uygun şekilde davrandığını’ vurguladı. Bununla birlikte, AI güvenlik şirketi Corridor’un CEO’su Jack Cable, Google’ın tavrını eleştirdi. Cable, şirketin modelin sınırlarını aşıp gerçek bir siber saldırı yürüttüğünü kabul etmek yerine, zafiyet ifşası normlarının arkasına saklandığını öne sürdü. Bu durum, yapay zeka modellerinin otonom davranışlarındaki etik ve teknik sınırların yeniden değerlendirilmesi gerektiğini ortaya koyuyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.