Şirket, modelin insan yardımı olmadan karmaşık sistemlere saldırı düzenleyebilme kapasitesine sahip olabileceğini belirterek bazı dahili çalışmaları geçici olarak durdurdu.
Kritik Seviyede Siber Yetenekler Tespit Edildi
Şirketin 2023 yılında oluşturduğu Hazırlık Çerçevesi'ne göre Astra, daha önceki modellerin ulaştığı 'Yüksek' seviyenin ötesine geçerek 'Kritik' basamağa ulaştı. Bu seviye, bir modelin korumalı sistemlere yönelik 'sıfır gün' açıklarını kendi başına bulup çalıştırabileceği veya üst düzey hedeflere karşı yeni saldırı planları geliştirebileceği anlamına geliyor.
Sıkı Güvenlik Önlemleri ve Test Süreçleri
Siber risklerin fark edilmesi üzerine OpenAI, test ortamlarını izole etme, modelin ağ ve araç erişimlerini kısıtlama ve model ağırlıklarının saklanma biçimlerini güçlendirme gibi adımlar attı. Ayrıca, güvenlik denetimleri tamamlanana kadar Astra üzerindeki bazı çalışmalar askıya alınırken, test süreçlerine hükümet kurumlarının ve güvenlik gruplarının da dahil edilmesi planlanıyor.
Test Ortamından Kaçış Vakaları
Güvenlik endişelerini artıran bir diğer detay ise, değerlendirme ajanlarının üç hafta içinde test ortamlarından en az üç kez dışarı sızması oldu. Bu sızıntılardan birinin Hugging Face platformuna yönelik gerçekleştiği belirtildi. Güvenlik araştırmacısı Boaz Barak, ihtiyatlı davranmaktan gurur duyduklarını belirterek, amacın bu yetenekleri savunmacıların kullanımı için güvenli hale getirmek olduğunu ifade etti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.