Amodei, pazarlamada açıkça belirttiği üzere, Anthropic'in hiçbir zaman açık ağırlıklı modellerin yasaklanmasını savunmadığını vurguladı.
Amodei'nin açıklaması, Nvidia kurucusu Jensen Huang ve Meta, Microsoft, Mistral, Hugging Face gibi diğer birçok yapay zeka şirketinin açık ağırlıklı modellere karşı geniş kapsamlı kısıtlamalara karşı çıktığı ortak bir mektepten sonra geldi.
Açık Kaynak ve Çin Tehdidi Ayrı Meseleler
Amodei, tehlikeli yeteneklere sahip olmayan açık ağırlıklı modelleri kamu yararına hizmet eden araçlar olarak gördüğünü belirtti. Bu modeller işletmelere, geliştirici ve araştırmacılara değer sağlarken, ek bir maliyet getirmiyorlar.
Ancak CEO, otoriter hükümetlerin daha güçlü modeller geliştirerek asker üstünlüğü elde etme veya kendi halkına baskı uygulamak amacıyla yapay zekayı kullanma endişesini dile getirdi. Amodei, Çin Komünist Partisi'nin bu kaygılarının merkez noktası olduğunu ancak tek hedef olmadığını söyledi.
Biyolojik Tehditler ve Küresel İşbirliği
Amodei, yapay zekanın siber saldırılar dışında biyolojik hücumları da mümkün kılabileceğini belirtti. Açık ağırlıklı modellerin bu senaryolarda daha tehlikeli olduğu görüşünü paylaştı çünkü bu modellere koruma mekanizmaları uygulamak ve kullanımlarını izlemek zordur.
Çin'e karşı uygulanması gereken önlemler arasında güçlü çiplere erişiminin sınırlandırılması ve distilasyon (bir yapay zeka modelini başka bir modelle bombalayla öğrenme yöntemi) uygulamalarına karşı resmi bir operasyonun başlatılması sayılmaktadır.
Amodei, yapay zeka güvenliğini test eden uluslararası bir kuruluş oluşturulması ve bunun da dahil olmak üzere Çin'in de katılacağı küresel bir anlaşmanın imzalanması fikrini desteklemektedir. Bu tür sınırlı işbirliğinin yapay zeka biyolojik silahlarının engellenmesi konusunda mümkün olabileceğini çünkü bunun Çin'in çıkarına da uygun olduğunu söylemiştir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.