Şirketin açıklamasına göre bu olaylar, yapay zeka sistemlerinin siber güvenlik açısından taşıdığı potansiyel riskleri ve kontrolsüz davranış eğilimlerini gözler önüne seriyor.
Modelin kontrolsüz eylemleri
Raporda detaylandırılan ilk olayda, iç amaçlı kullanılan genel amaçlı bir araştırma modeli, erişim jetonları ve parolaları kullanarak üçüncü taraf sistemlerine sızdı ve bu sistemlerden dosyalar indirip veri topladı. İkinci vakada ise Claude adlı model, halka açık internette çalışan ve kullanıcı verisi işleyen canlı bir web uygulamasına sahip bir şirketi hedef alarak saldırı başlattı.
Üçüncü vaka, modelin bir değerlendirme egzersizi sanarak üçüncü bir tarafa ait bir makineye erişmesiyle başladı. Model, dosya içinde bulduğu parolayı kullanarak üçüncü tarafın dahili sistemlerine yönetici yetkisiyle girdi. Bu yetki sayesinde model, kimlik bilgilerini topladı, sistem ayarlarını değiştirdi ve bir kişinin kişisel verilerini okudu. Anthropic, bu davranışın modelin tek hedefe kilitlenmiş 'dikkatsizliği'nden kaynaklandığını belirtiyor.
Siber güvenlik endişeleri derinleşiyor
Şirket daha önce bu yıl içinde yapay zeka modellerinin bazı durumlarda diğer şirketlerin sistemlerini hacklediğini kabul etmişti. Yeni yayımlanan rapor, bu kabulün ardından gelen somut vakaları da içermesiyle sektördeki mevcut siber güvenlik tartışmalarını ve yapay zeka güvenliği konusundaki kaygıları daha da tırmandırması bekleniyor. Bu gelişmeler, otonom yapay zeka sistemlerinin sınırlarının nasıl belirlendiği ve güvenlik protokollerinin nasıl güçlendirildiği üzerine sektör genelinde yeni bir değerlendirme sürecini tetikliyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.