Birleşmiş Milletler bünyesindeki bağımsız bilimsel panel, yapay zeka alanındaki gelişimin mevcut yönetim ve denetim sistemlerinin kapasitesini aştığını belirten ilk ön raporunu yayınladı. Küresel çapta uzmanların yer aldığı panel, teknolojinin evrim hızının mevcut bürokratik süreçlerle uyumlu olmadığını vurguladı.

Yapay Zekanın İnsanlığa Sunduğu Fırsatlar

Raporda, yapay zeka modellerinin gerçekleştirebildiği görevlerin karmaşıklığının her birkaç ayda bir ikiye katlandığı ifade ediliyor. Bu hızlı gelişimin ilaç keşifleri, aşı geliştirme süreçleri ve antibiyotik direnci araştırmaları gibi alanlarda insanlığa büyük faydalar sağladığı belirtiliyor. Ayrıca, meme kanseri gibi hastalıkların erken teşhisinde hekimlerin bu sistemlerden yararlanabileceği ve gıda güvensizliği konusunda erken uyarı sistemlerinin kurulabileceği kaydediliyor.

Kritik Riskler ve Denetim Sorunları

Teknolojinin beraberinde getirdiği tehlikelere de değinen rapor, gerçek kişiler adına üretilen cinsel içerikli sahte içerikler (deepfake) ve siber saldırıların kolaylaşması gibi risklere dikkat çekiyor. Bazı modellerin kullanıcıların zararlı davranışlarını pekiştirerek intihara kadar varan sonuçlara yol açabileceği ve modeller daha otonom hale geldikçe kontrol edilmelerinin zorlaştığı uyarısı yapılıyor. Ayrıca, devasa veri merkezlerinin inşasının çevredeki topluluklara zarar verebileceği endişesi dile getiriliyor.

Küresel Eşitsizlik ve Gelecek Adımlar

Siyaset yapıcıların, hızlı değişen teknolojiler için tasarlanmamış eski yönetim sistemleri nedeniyle zorlandığı belirtilen raporda, yapay zekanın daha çok ABD ve Çin gibi gelişmiş ülkelerde yoğunlaştığı vurgulanıyor. Gelişmekte olan ülkelerin altyapı ve uzmanlık eksikliği nedeniyle bu teknolojilerden yeterince faydalanamadığı ifade ediliyor. Panel, şeffaflık ve hesap verebilirlik için uluslararası iş birliği ile ortak standartların belirlenmesi gerektiğini savunuyor. BM, 6 Temmuz'da Cenevre'de gerçekleşecek olan Küresel Yapay Zeka Yönetişim Diyaloğu öncesinde bu verileri sağlayacak ve önümüzdeki yıl daha kapsamlı bir rapor yayınlayacak.

Ne anlama geliyor?

Modern yönetim mekanizmaları genellikle bir kural koymadan önce somut veri ve bilimsel kanıt toplama sürecini işletir. Ancak bazı dijital sistemlerin gelişim hızı, bu veri toplama ve kural oluşturma sürecinden çok daha hızlı ilerlemektedir. Bu durum, kurallar yazılana kadar teknolojinin çoktan başka bir aşamaya geçmesine ve mevcut yasaların işlevsiz kalmasına neden olmaktadır.

Yazılımsal yeteneklerin hızla artması, siber güvenlik açıklarının çoğalmasına ve dijital içeriklerin doğrulanmasının zorlaşmasına yol açar. Bu süreçte temel sorun, gelişmiş teknik imkanlara sahip olanlarla bu imkanlara erişimi olmayanlar arasındaki uçurumun kapanmamasıdır. Altyapı eksikliği, bazı bölgelerin teknolojik dönüşümün dışında kalmasına neden olurken, kontrolsüz gelişim ise bireysel güvenlik açıklarını artırır.