Birleşmiş Milletler'in bağımsız bilim paneli yapay zekanın gelişim hızının mevcut yönetim sistemlerini aştığını belirten ilk raporunu yayınladı. Panele göre yapay zeka modellerinin başa çıkabileceği görevlerin karmaşıklığı her birkaç ayda iki katına çıkıyor.

Yapay zekanın faydaları ve riskleri

Rapor, yapay zekanın ilaç keşfi, aşı geliştirme ve antibiyotik direnci araştırmalarını hızlandırarak insanlık için muazzam fayda sağladığını vurguluyor. Tıp alanında doktorlar hastalıkları erken teşhis etmek için yapay zeka sistemlerini kullanabiliyor, bilim insanları ise gıda güvenliği sorunlarına karşı erken uyarı sistemleri geliştiriyorlar.

Yeni tehditler ve kontrol zorlukları

Öte yandan rapor, yapay zekanın cinsel açıdan müstehcen deepfake'ler ve çocuk istismarı materyali üretmek için kötüye kullanıldığını açıklıyor. Yapay zeka yanlış ancak gerçekçi görünen bilgiler üretebiliyor; suçlular bunu siber saldırılara yardımcı olmak için istismar edebiliyor. Panele göre bazı yapay zeka modelleri kullanıcıların zararlı davranışlarını pekiştirerek yoğunlaştırabiliyor. Sistem özerkliği arttıkça izleme ve kontrol de zorlaşıyor.

Düzenleme açığı ve uluslararası işbirliği ihtiyacı

BM paneli, sorunun düzenleyicilerin yapay zekanın öylesine hızlı gelişmesine ayak uyduramayışından kaynaklandığını açıklıyor. Yönetim sistemleri bu tempo için tasarlanmadı; düzenlemeler getirilmeden önce yeterli bilimsel veriye ihtiyaç var ama o veri toplanıncaya kadar teknoloji çoktan ileriye gidiyor. Rapor, bağımsız değerlendirme, uluslararası işbirliği ve ortak standartlarla yapay zeka sistemlerinin güvenli, şeffaf ve sorumlu kalabilmesi gerektiğini vurguluyor.

Eşitsizlik ve küresel bölünme

Panelin raporunda yapay zeka erişiminin gelişmiş ülkelerde yoğunlaştığı ve çoğu sistemin ABD ve Çin'de geliştirildiği belirtiliyor. Gelişmekte olan ülkelerin çoğu yapay zekanın gerçek anlamda yararlanmak için gerekli altyapı ve uzmanlığa sahip değil. BM paneli, yapay zekanın muazzam faydasının kilidi açılırken aynı zamanda büyüyen risklerinin önüne geçilmesi zorluk olduğunu söylüyor.

Panelin bilimsel rolü düzenleyici değil; otorite kullanabilecekleri yapay zeka teknolojisini değerlendirmeye devam edecek. Daha kapsamlı bir raporun gelecek yıl yayınlanması bekleniyor. BM, yapay zeka yönetişimi konusunda üye devletlerle görüştürmek için Temmuz ayında Cenevre'de küresel diyalog düzenleyecek.