Bir dizi video, OpenAI, Google DeepMind ve Anthropic gibi şirketlerin eski ve yeni çalışanlarından sesleniyor. Araştırmacılar, süper zekânın insanlık için ölümcül bir risk taşıyabileceğini savunuyor. Geoffrey Irving, bir zamanlar OpenAI ve Google DeepMind’da çalışan, insanlık için “şansın bir madeni para atışı” olduğunu söylüyor. Neel Nanda ise “en az yüzde on risk” olduğuna işaret ediyor.

Uzman Görüşleri

Daniel Kokotajlo, süper zekânın tanrısal güce sahip olacağını ve kontrol edilemeyeceğini iddia ediyor. Bu görüş, araştırmacıların çoğunun “bu kadar tehlikeli olduğu söyleniyor” temeline dayanmaktadır.

İçerik Paylaşımı

Video içerikleri, frominside.ai sitesinde toplandı. Site, araştırmacıların görüşlerini bölümlere ayırarak izleyicilere sunuyor. Bu sayede izleyici, farklı bakış açılarını tek bir platformda görebiliyor.

Ne anlama geliyor?

Yapay zeka sistemleri, insan müdahalesi olmadan öğrenip karar verebilen algoritmalar oluşturuyor. Bu sistemlerin hedefleri, insan kontrolü dışında gelişebiliyor. Kontrol eksikliği, istenmeyen sonuçlara yol açabilir. Bu durum, veri güvenliği, etik karar verme ve toplumsal etkiler açısından ciddi kaygılar doğuruyor. Kullanıcılar, sistemlerin karar süreçlerini anlamak ve gerektiğinde müdahale etmek için şeffaflık talep ediyor. Bu bağlamda, geliştiricilerin güvenlik protokolleri ve etik rehberlik çerçeveleri üzerinde çalışmaları, teknoloji kullanımının sorumlu bir şekilde ilerlemesini sağlıyor.