Dario Amodei, uzun bir deneme yayınlayarak yapay zekâ güvenliği konusunda yeni bir tartışma başlattı. Makalesinde, AI geliştirme hızının yavaşlatılması gerektiğini savunarak üç temel adım önerdi.

Önerilen Üç Adım

Amodei, ilk adım olarak bağımsız üçüncü taraf denetleyicilerin şirketlerin güvenlik uygulamalarını doğrulamasını ve olayları raporlamasını öne sürüyor. İkinci adımda, demokratik ülkelerdeki önde gelen AI firmalarının standartlar ve sınırlar konusunda koordinasyon sağlaması gerektiği vurgulanıyor. Üçüncü adımda ise, demokratik ve otoriter yönetimlerin AI geliştirme hızını mümkün olduğunca ortaklaşa düzenlemesi öneriliyor.

Şirket ve Siyaset Çeşitli Tepkiler

Amodei, Anthropic’in bu adımlardan birincisini tek taraflı olarak benimseyeceğini belirtti. Diğer AI liderleri ve bazı politikacılar ise Amodei’nin görüşlerine ya destek veriyor ya da karşıt argümanlar sunuyor. Örneğin, Sam Altman, Amodei’nin önerisini destekleyerek “öncüyü yavaşlatmalıyız” şeklinde bir açıklama yaptı.

Ne Anlama Geliyor?

Bu öneriler, yapay zekâ sistemlerinin geliştirilmesi sürecinde bağımsız denetim mekanizmalarının kurulmasını ve uluslararası standartların oluşturulmasını hedefliyor. Böyle bir yapı, model eğitimi ve teknik ilerlemeyi tamamen durdurmadan, güvenlik önlemlerinin yeterli bir sürede uygulanmasını sağlayabilir. Şirketler, denetçiler aracılığıyla güvenlik taahhütlerini kanıtlamak zorunda kalacak ve hükümetler arasında ortak bir çerçeve oluşturulması, potansiyel risklerin küresel ölçekte yönetilmesine olanak tanıyacak.