Kuruluşun yönetim kurulu, DeepMind'in kurucu ortaklarından Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkanı Demis Hassabis'ten oluşurken, Legg aynı zamanda genel yayın yönetmeni rolünü üstleniyor. Enstitü, AGI konusundaki farklı görüşleri gün yüzüne çıkarmayı ve hızlı evrilen bu alanda yeni veriler ışığında fikirlerin değişebileceğini vurgulayan bir platform oluşturmayı hedefliyor.
Şeffaflık ve Güvenlik Odaklı Yaklaşım
Enstitünün yayımladığı ilk dört makaleden biri, DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan imzası taşıyor. Şah ve Dragan, en güçlü modelleri izlemenin giderek zorlaştığı bu dönemde yapay zekânın şeffaflık penceresinin daralmasının kader olmadığını savunuyor. Makalede, geliştiriciler ve düzenleyici kuruluşların güvenlikle ilgili ödünleşimleri doğrudan ele almaları gerektiği belirtiliyor. Bu kapsamda, modellerin okunabilir bir akıl yürütme izi üretmeden gerçekleştirebileceği ardışık hesaplama miktarını sınırlayan 'opak seri derinlik' kavramının kısıtlanması veya daha az şeffaf sistemlerin aynı seviyede izlenebilirliğinin kanıtlanması çağrısı yapılıyor.
ABD Liderliğinde Standartlar Kurumu Önerisi
Demis Hassabis'in kaleme aldığı bir diğer makalede ise en ileri düzey yapay zeka modellerini değerlendirmek üzere ABD liderliğinde bir standartlar kurumu kurulması öneriliyor. Hassabis'in sunduğu çerçevede, geliştiricilerin bu kurum tarafından denetlenmek üzere modellerini gönüllü olarak, çıkış tarihinden en az 30 gün önce sunmaları öngörülüyor. İlk seri makalelerin diğer konuları arasında olası AGI kesintilerini yönetmek için ekonomik politikalar, insan tarafından okunabilir model akıl yürütmesini koruma ilkeleri ve insan refahı için temel ilkeler ile sınır yapay zeka modellerini değerlendirme çerçevesi yer alıyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.