Anthropic'in kurucusu ve CEO'su Dario Amodei, şirketinin açık ağırlıklı yapay zeka modellerinin yasaklanmasını desteklediği yönündeki söylentilere yanıt verdi. Amodei, pazarlamada açıkça belirttiği üzere, Anthropic'in hiçbir zaman açık ağırlıklı modellerin yasaklanmasını savunmadığını vurguladı.

Amodei'nin açıklaması, Nvidia kurucusu Jensen Huang ve Meta, Microsoft, Mistral, Hugging Face gibi diğer birçok yapay zeka şirketinin açık ağırlıklı modellere karşı geniş kapsamlı kısıtlamalara karşı çıktığı ortak bir mektepten sonra geldi.

Açık Kaynak ve Çin Tehdidi Ayrı Meseleler

Amodei, tehlikeli yeteneklere sahip olmayan açık ağırlıklı modelleri kamu yararına hizmet eden araçlar olarak gördüğünü belirtti. Bu modeller işletmelere, geliştirici ve araştırmacılara değer sağlarken, ek bir maliyet getirmiyorlar.

Ancak CEO, otoriter hükümetlerin daha güçlü modeller geliştirerek asker üstünlüğü elde etme veya kendi halkına baskı uygulamak amacıyla yapay zekayı kullanma endişesini dile getirdi. Amodei, Çin Komünist Partisi'nin bu kaygılarının merkez noktası olduğunu ancak tek hedef olmadığını söyledi.

Biyolojik Tehditler ve Küresel İşbirliği

Amodei, yapay zekanın siber saldırılar dışında biyolojik hücumları da mümkün kılabileceğini belirtti. Açık ağırlıklı modellerin bu senaryolarda daha tehlikeli olduğu görüşünü paylaştı çünkü bu modellere koruma mekanizmaları uygulamak ve kullanımlarını izlemek zordur.

Çin'e karşı uygulanması gereken önlemler arasında güçlü çiplere erişiminin sınırlandırılması ve distilasyon (bir yapay zeka modelini başka bir modelle bombalayla öğrenme yöntemi) uygulamalarına karşı resmi bir operasyonun başlatılması sayılmaktadır.

Amodei, yapay zeka güvenliğini test eden uluslararası bir kuruluş oluşturulması ve bunun da dahil olmak üzere Çin'in de katılacağı küresel bir anlaşmanın imzalanması fikrini desteklemektedir. Bu tür sınırlı işbirliğinin yapay zeka biyolojik silahlarının engellenmesi konusunda mümkün olabileceğini çünkü bunun Çin'in çıkarına da uygun olduğunu söylemiştir.

Ne anlama geliyor?

Bu tartışma, yapay zeka güvenliği ve açık erişim arasındaki temel gerilimi ortaya koymaktadır. Bir yandan açık ağırlıklı modeller, teknoloji tek bir şirkete bağlı kalmadığı için savunma ve inovasyonun gelişmesine imkan tanır. Diğer yandan ise, güçlü modellerin herkes tarafından erişilebilir hale gelmesi, bu teknolojileri kontrol dışı amaçlarla kullanma riskini artırır.

Biyolojik silahlar ve otoriter rejimler tarafından yapay zekanın kullanılması gibi senaryolar, teknolojinin tek yönlü yasaklamalarla değil, küresel anlaşmalar ve denetim mekanizmalarıyla ele alınması gerektiğini göstermektedir. Denetim sisteminin başarısı, tüm büyük oyuncuların bu çerçeveye dahil olmasına bağlıdır.

Distilasyon teknikleri ve fikri mülkiyet hırsızlığı ise yapay zeka geliştiriciler arasında ciddi bir rekabet konusu haline gelmiştir. Bu alandaki tartışmalar, uluslararası teknoloji düzenlemesinin ne kadar karmaşık olduğunu ve farklı çıkar gruplarının bu konuda nasıl çelişkili görüşlere sahip olduğunu göstermektedir.