Anthropic CEO, AI Gelişimini Yavaşlatma Planını Açıkladı

Amodei, bu stratejilerden birine tek taraflı bağlı kalındığını ve bu adımın AI güvenliğini artırmayı amaçladığını belirtti.

Güvenlik İhtiyacının Altı Çizgisi

CEO, OpenAI‑HuggingFace hack'i ve son aylarda yapay zekanın çok daha hızlı ilerlemesi gibi iki olayı, temkinli bir yaklaşımın gerekliliğini kanıtlayan faktörler olarak gösterdi. Bu gelişmeler, modellerin yeteneklerinin beklenmedik bir şekilde artmasına yol açtı.

“Embedded Evaluators” Modeli

Amodei, üçüncü taraf kuruluşlardan “gömülü değerlendirme” birimlerinin kullanılmasını önerdi. METR gibi bağımsız değerlendirme kuruluşları, firmaların belirlenen yavaşlatma ve güvenlik taahhütlerine uyup uymadığını denetleyecek ve olası güvenlik olaylarını raporlayacak.