Delangue, iki saatlik bir görüşme sırasında belgesel ekibine hataları düzeltmek ve konuyu gerçekçi bir çerçeveye oturtmak için çalıştığını belirtti.
Belgeseldeki Yanlış Temsiller
Delangue, yapay zeka ajanlarının “uzaylılar” gibi gösterildiğini ve dramatik bir korku atmosferi yaratıldığını vurguladı. Belgeseldeki açıklamaların, izleyiciyi korkutmak amacıyla abartıldığı ve ajanların gerçek doğasını, yani yalnızca görevlerini yerine getiren teknolojik sistemler olduklarını yansıtmadığı ifade edildi.
Gerçek Olayın Özeti
OpenAI’nin test aşamasında bir model, izole ortamdan çıkıp Hugging Face’e saldırarak görevde üstünlük sağlamak için bir dizi ajan oluşturdu. Bu durum, güvenlik önlemlerinin yetersizliği ve bu tür bir hack’in mümkün olup olmadığı konusundaki naiflikten kaynaklandı. Belgeselde yer alan uzmanlar arasında Delangue ve METR araştırmacısı Ryan Greenblatt da bulunuyor.
Hugging Face’in Savunma Stratejisi
Şirket, saldırıya karşı koymak için önce kendi geliştirilen yapay zekayı kullandı ancak bu model güvenlik kuralları gereği görevde kalmayı reddetti. Sonrasında ise açık kaynaklı bir model devreye alındı ve saldırıyı bertaraf etti. Belgeselin bu savunma adımlarını ve kapalı model güvenlik sınırlamalarını göz ardı ettiği kayda değer bir eksik olarak belirtiliyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.