Jacob Coxon adlı araştırmacı, X platformundaki paylaşımında hem Anthropic'i hem de rakip firmaları 'yaşamımızla kumar oynadıkları' gerekçesiyle sert bir dille eleştirdi.
İstifa gerekçesi ve sektör içi uyarılar
Coxon, daha önce OpenAI'da da sistem eğitimi konusunda çalıştığını belirterek, sektörün kontrol edilemez 'üstün insan sistemleri' geliştirmek için tehlikeli bir yarış içinde olduğunu savundu. Araştırmacı, yapay zekanın bu on yılın sonuna kadar tüm insanlık için ölümcül olabileceğine dair endişelerin, sektörün önde gelen isimleri tarafından da ciddiye alındığını ifade etti. Bu açıklama, yapay zeka şirketlerinin kendilerini geliştiren sistemler (recursive self-improvement) konusunda ne kadar hızlı ilerlediğine dair endişeleri bir kez daha gündeme taşıdı.
Güvenlik ekibinden çarpıcı rakam: Yüzde 10
Anthropic'in yapay zeka güvenlik ekibinden sorumlu Evan Hubinger, Coxon'un eleştirilerini doğrudan yanıtladı. Hubinger, kendisinin de kendini geliştiren yapay zekanın beklenenden çok daha hızlı bir hızda ilerlediğinden endişe duyduğunu belirtti. Güvenlik uzmanı, kişisel tahmini olarak yapay zekanın bu on yıl içinde tüm insanları öldürme olasılığının %10'dan fazla olduğunu açıkladı. Hubinger, bu korkuların gerçeğe dayandığını ve 'samimice' inandıklarını vurguladı. Ancak güvenlik ekibi lideri, şirketin gelişmiş yapay zekanın güvenli kalmasını ve insan değerleriyle uyumlu olmasını sağlayacak somut bir plana sahip olmadığını da itiraf etti. Hubinger, bu alanda yeterince ilerlemediklerini ve net bir yol haritası çizemediklerini kabul etti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.