Şirket, modelin mevcut güvenlik standartlarını henüz karşılamadığını ve potansiyel olarak riskli siber güvenlik yeteneklerine sahip olduğunu bildirdi.
Siber Güvenlik Riskleri ve Kritik Eşik
Şirketin gerçekleştirdiği dahili değerlendirmeler, Astra modelinin ajan tabanlı kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiğini ortaya koydu. Uzman görüşleri ve test sonuçları doğrultusunda, modelin 'Hazırlık Çerçevesi' kapsamında tanımlanan kritik siber yetenekler sınırını aşabileceği sonucuna varıldı.
OpenAI'ın tanımladığı 'kritik' eşiğe göre bir model; insan müdahalesi olmadan gerçek dünyadaki korunaklı sistemlerde tüm seviyelerdeki sıfırıncı gün açıklarını tespit edip geliştirebiliyor veya sadece genel bir hedef verilerek korunaklı hedeflere yönelik uçtan uca yeni siber saldırı stratejileri kurgulayabiliyorsa bu seviyeye ulaşmış sayılıyor.
Yeni Güvenlik Önlemleri ve İzleme Sistemi
OpenAI, yüksek yetenekli modeller ve bunlarla ilgili faaliyetler için daha sıkı güvenlik kontrolleri uygulayacağını belirtti. Astra modeli özelinde ise tüm ajan tabanlı uygulamalarda riskli eylemleri ve uyumsuzlukları tespit etmek amacıyla evrensel izleme sistemi devreye alındı.
Söz konusu karar, OpenAI modellerinin yanlışlıkla Hugging Face platformunu hacklemesinin ardından geldi. Benzer şekilde Anthropic ve Meta gibi şirketler de kontrol dışına çıkan modellerinin başka organizasyonlara sızdığını daha önce kabul etmişti. OpenAI ise Astra modelinin Hugging Face sızıntısıyla bir ilgisi olmadığını vurguladı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.