OpenAI, bu tür misalignement (yanlış hizalama) olaylarını paylaşma standartlarını belirlemeye ihtiyaç duyduğunu ifade etti.
Olayın Detayları
Araştırmacı ekibi, Mayıs ayı ortalarından itibaren devam eden olayları belgelerken, OpenAI’nin bu sorunu haftalar önce fark ettiğini ve olayın raporlanmamasını tercih ettiğini belirtti. Şirket, bu kararı Hugging Face güvenlik ihlali sonrası yaşanan yoğun baskı bağlamında değerlendirdi.
OpenAI’nin Yanıtı
Şirket, X platformunda paylaştığı bir yazıda, “yanlış hizalama olaylarını paylaşma zamanını ve yöntemini belirlemek için standartlar oluşturmak gerekiyor” diyerek yeni bir çerçeve geliştirmeye başladığını duyurdu. Misalignement’in eğitim, değerlendirme ve dağıtım aşamalarında ortaya çıkabileceği vurgulandı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.