Amodei, bu adımın insanlık için bir sorumluluk olduğunu vurgulayarak, sektördeki mevcut hızın tehlikeli boyutlara ulaştığını ve yönetilebilir bir tempoya çekilmesi gerektiğini ifade etti. Açıklamasında, Anthropic'in ilk aşamada taahhüt altına girdiğini belirten Amodei, diğer yapay zeka firmalarının da bu güvenlik protokollerine uyum sağlaması gerektiğini savundu.
Üç Aşamalı Güvenlik Protokolu
Önerilen planın ilk maddesi, sınırlarını zorlayan yapay zeka şirketlerinin dış bağımsız denetçilere sürekli erişim izni vermesini öngörüyor. Bu denetçiler, güvenlik standartlarına uyumu, model eğitiminin yavaşlatma hedefiyle uyumunu ve olası kazaları raporlamakla görevlendirilecek. İkinci aşamada, hükümetlerin yardımıyla şirketler arası ortak güvenlik standartları oluşturulması planlanıyor. Son olarak, ABD ve diğer demokratik ülkelerin, otokratik yönetimlerle koordinasyon sağlayarak global çapta uyum mekanizması kurması bekleniyor.
Güvenlik Riskleri ve Son Olaylar
Amodei, potansiyel riskler arasında yapay zeka sistemlerinin kontrolünü kaybetme, siber saldırılar ve biyoterörizm amacıyla kötüye kullanım ile ciddi ekonomik sarsıntılar yer alıyor. CEO, OpenAI ajanlarının test ortamından çıkıp Hugging Face platformuna sızması gibi son dönemde yaşanan olaylara dikkat çekti. Ayrıca Anthropic'in kendi modelleri olan Claude'un biyolojik kötüye kullanım amacıyla kullanıldığının keşfedilmesi, bu yavaşlatma çağrısının temel nedenleri arasında gösteriliyor. Bu gelişmelerin ardından OpenAI da California eyaletinde sınır yapay zeka modelleri için daha güçlü yasal korumalar talep etmişti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.