Yapay zeka acil durum uyarılarında güven sorunu yaratıyor

Eyalet meteoroloji yetkilileri, bir ilçe acil durum müdürünün yapay zeka sohbet botuyla ürettiği ve kasırganın 'sivri jet' rüzgarlarıyla eyaleti nasıl tehdit edeceği konusunda halka dağıtılan grafik bilgilendirmede ciddi meteorolojik hatalar tespit etti. Grafik, halkı risk alma konusunda bilinçlendirmek amacıyla hazırlanmış olsa da bilimsel açıdan doğru verilere dayanmıyordu.

Yaygın kullanım ve kurum politikaları

Alabama Üniversitesi Gelişmiş Genel Güvenlik Merkezi Direktörü Laura Myers, olayın ardından gelen telefon görüşmesinde bu hatanın kaynağını doğruladı. Myers, yerel acil durum yöneticilerinin paydaşların dikkatini yönlendirmek için yapay zekaya başvurduğunu, ancak sistemin istenen sonucu verirken meteorolojik doğruluktan yoksun kaldığını aktardı. Uzmanlara göre çoğu acil durum kurumu, çalışanların üretken yapay zeka kullanmasını resmen yasaklıyor. Buna rağmen, yangın hasar değerlendirme ve kaynak koordinasyonu gibi görevler için yüzlerce şirket bu araçları pazarlarken, yapay zekanın devlet kurumları ve girişimler arasında en çok ilgi gösterilen alanlardan biri olduğu anlaşılıyor.

İletişim boşluğu ve geçmişteki felaketler

Acil durum yöneticileri, felaketle ilgili halka hızlı ve net mesajlar gönderme konusunda genellikle zorlanıyor. Bu durum, uzman jargonunun halka aktarılamaması, önemli bilgilerin atlanması veya dikkat dağıtıcı gereksiz detayların eklenmesi gibi insani hatalardan kaynaklanıyor. Albany Üniversitesi afet araştırmacısı Jeannette Sutton, birçok kurumun kaynak kısıtlamaları nedeniyle bu önceliği ancak geç fark ettiğini belirtiyor. Acil durum yöneticileri, kamuoyundaki güvenin en önemli sermaye olduğunu vurgularken, iklim kaynaklı felaketlerin artmasıyla birlikte iletişim eksikliklerinin can kaybına yol açtığı tarihî örnekler mevcut. 2016'da Kaliforniya'da komşu ilçelerin aynı yangın için farklı tahliye emirleri yayımlaması ve 2019'da Avustralya'daki 'Bak ve Hareket Et' uyarısının yarattığı kafa karışıklığı, bu alanındaki yapısal sorunları gözler önüne seriyor. Kaliforniya'daki Montecito bölgesinde, Thomas Yangını'nın ardından gelen sağanak yağışın neden olduğu ölümcül çamur kayması sırasında Santa Barbara İdaresi'nin iletişim güçlükleri, bu hataların somut ve yıkıcı sonuçlarına örnek teşkil ediyor.