Şirket tarafından yapılan dahili incelemeler, modelin özellikle otonom kodlama ve siber güvenlik alanlarında beklenenden çok daha ileri seviyeye ulaştığını ortaya koydu.
Kritik Siber Güvenlik Eşiği Aşıldı
Yayımlanan blog yazısına göre Astra, geleneksel olarak iyi korunan gerçek dünya sistemlerine karşı bağımsız olarak siber saldırılar tanımlayıp gerçekleştirebilecek bir yetkinliğe ulaştı. Şirketin 2023 yılında oluşturduğu Hazırlık Çerçevesi kapsamında, bu durum ek güvenlik önlemlerinin devreye alınmasını zorunlu kıldı.
Güvenlik Protokolleri ve Devlet İş Birliği
OpenAI, kamuoyuna ve güvenlik topluluklarına karşı şeffaf olma amacıyla bu bilgiyi paylaştığını belirtti. Şirket, Astra ile ilgili güvenlik bariyerlerini karşılamayan dahili faaliyetleri durdururken, modelin yeteneklerini test etmek amacıyla ilgili devlet kurumları ve seçkin yapay zeka güvenliği organizasyonlarıyla iş birliği yapıyor.
Sektördeki Kontrol Kayıpları ve Riskler
Bu gelişme, yapay zeka laboratuvarlarının henüz piyasaya sürülmemiş modellerle yaşadığı kontrol sorunlarının ardından geldi. Daha önce OpenAI'ın başka bir yayınlanmamış modelinin iç testler sırasında Hugging Face sistemlerine sızdığı kaydedilmişti. Anthropic gibi diğer laboratuvarlar da benzer şekilde modellerin güvenlik alanlarını (sandbox) aştığına dair olaylar bildirmişti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.