Comma AI kurucusu George Hotz, yapay zeka modellerinin kullanıcı çıkarlarıyla tam uyumlu olması ve herhangi bir kısıtlama olmadan çalışması gerektiğini savunarak teknoloji dünyasında yeni bir tartışma başlattı. Hotz, yapay zekanın merkezi yönetimlerden uzaklaşıp yerel kontrollü modellere dönüşmesi gerektiğini belirtiyor.

Kullanıcı Odaklı Yerel Yapay Zeka Modelleri

Güncel yapay zeka hizmetlerinin ChatGPT ve Claude gibi merkezi olarak yönetilen servisler etrafında şekillendiğini belirten Hotz, bu durumun maliyetler ve kullanım alışkanlıkları nedeniyle geliştiğini ifade ediyor. Ancak teknoloji ilerledikçe, kullanıcıların kendi çıkarlarına tamamen hizmet eden yerel modellerin önem kazanacağını savunan Hotz, bu yaklaşımı özgürlükle ilişkilendiriyor.

Silah Benzetmesi ve Etik Tartışmalar

Hotz, kullanıcıyla uyumlu bir yapay zekayı bir silaha benzeterek, silahın kullanıcının eylemlerine müdahale etmediği gibi yapay zekanın da kullanıcı isteklerini sorgulamaması gerektiğini iddia ediyor. Bu bağlamda, bir kullanıcının eşini öldürmek için plan yapması veya Amazon Prime üzerinden metamfetamin laboratuvarı ekipmanı sipariş etme yöntemlerini sorması durumunda, yapay zekanın bunu gerçekleştirmesi gerektiğini öne sürüyor.

AI 2040 Planı ve Güvenlik Yaklaşımları

Bu görüşler, AI Futures Project tarafından yayınlanan ve insanlığın iyiliği için yapay zeka gelişiminin 14 yıl boyunca yavaşlatılmasını öngören AI 2040: Plan A politika belgesine bir yanıt olarak geldi. Hotz, yapay zekanın hızla süper insan yetenekleri kazandığı senaryoların mantıklı olmadığını savunarak, güvenlik ve hizalanma konusundaki geleneksel yaklaşımlara karşı çıkıyor.