Google DeepMind CEO'su Demis Hassabis, frontier yapay zeka modellerinin piyasaya çıkışını denetleyen bağımsız bir standart kuruluşunun oluşturulmasını önerdi. Hassabis'in paylaştığı çerçeveye göre, yeni düzenleyici kurul finansal sektördeki FINRA'ya benzer şekilde yapılandırılacak ve yapay zeka laboratuvarlarından modellerin piyasaya sürülmesinden 30 gün önce gönüllü olarak inceleme için almaya başlayacak.

Önerilen Model Nasıl Çalışacak?

Hassabis'in tasarladığı sistem, başlangıçta gönüllü katılımla başlarken, etkinliği kanıtlandıkça zorunlu hale gelmesi öngörülüyor. Bu sayede ABD pazarında modellerini dağıtmak isteyen şirketler standartları geçmek zorunda kalacak. Önerilen kurul, Antropic ve OpenAI'ın modellerinde Amerikan hükümeti tarafından yapılan geçmiş incelemelerden farklı olarak, teknik uzmanlığa sahip ve saydam kararlar alacak bir yapı oluşturmayı hedefliyor.

Industri Finansmanı ve Bağımsız Yapı

Hassabis, kuruluşun hükümet desteğine sahip olmasının yanı sıra yapay zeka endüstrisi tarafından finanse edilerek bağımsız şekilde işlemesini öngörüyor. Kurul, açık kaynak temsilcileri, sektördeki teknik uzmanlar ve yapay zeka güvenliği konusunda uzmanlaşmış kuruluşlarla çalışacak. Hassabis'e göre bu yaklaşım, teknolojik gelişmeleri yakından takip ederken sorumlu davranışı teşvik edecek ve gerektiğinde arttırılabilecek esneklikte bir denetim mekanizması sunacak.

Ne anlama geliyor?

Frontier modeller, gelişmiş yeteneklere sahip ve henüz tam potansiyelleri belirlenmemiş olan yapay zeka sistemleridir. Bu tür modellerin güvenlik riskleri ve sosyal etkileri önceden değerlendirilmesi, yanlış kullanım, veri güvenliği ihlalleri veya istenmeyen davranışlar gibi sorunları minimize etmek için önemli görülüyor. Önerilen bağımsız kurul, teknik uzmanların bu sistemleri piyasa çıkışından önce kapsamlı şekilde test etmesi anlamına gelir.

Bu tür bir denetim mekanizması, kamu güvenliği ile inovasyonun hızlı ilerlemesi arasında bir denge kurmayı amaçlıyor. Endüstri tarafından finanse edilen ancak bağımsız şekilde işleyen bir yapı, hem düzenleyicilerin teknik anlayışa erişimini sağlar hem de yazılı kurallar olmadan hızlı değişen teknolojiye uyum sağlama esnekliğini korur. Ulusal düzey'de böyle bir sistemin kurulması, piyasaya sürülen yapay zeka uygulamalarının standart bir güvenlik seviyesini karşılamasını zorunlu kılacaktır.