Amerikan donanmasından bir analistin, açık kaynaklı verileri sınıflandırılmış sinyal istihbaratıyla harmanlamak için bir yapay zeka sohbet botu kullanması, neredeyse Çin ile doğrudan bir çatışmaya yol açtı. CNN'in haberine göre, bu bahar ayında savaş uçakları havadayken yetkililerin şoke edici bir keşif yaptığı anlaşıldı: Çin'e ait bir gemiye karşı planlanan silahlı operasyonun temelini oluşturan istihbarat, tamamen bir yapay zeka sisteminin üretmiş olduğu hatalı verilerden ibaretti. Son dakika yapılan bu müdahale, olası bir uluslararası krizin önüne geçti.

Yanlış istihbaratın komuta zincirindeki yolculuğu

Olayın detaylarına bakıldığında, İsrail ile devam eden savaş döneminde dolaşıma giren bir rapor, hedef alınan geminin nükleer silah programı için kritik bileşenler taşıdığına dair yanlış bir iddiayı içeriyordu. Hatayı yapan kişi, Özel Operasyonlar Komutanlığı'nda görevli bir analistti. Analist, sohbet botundan hatalı bulunan kargo manifestosunu resmî bir görünüme kavuşturmak için ikinci kez faydalandığında, bu yanıltıcı özet komuta kanalları arasında hızla yayıldı. Durum, operasyonun son aşamasında fark edilip iptal edilince olası felaketin eşiğinden dönüldü.

Askeri karar alma hızı ve risk dengesi

Pentagon, yapay zekanın 'öldürme zinciri'ni hızlandırarak komutanların doğru zamanda tepki vermesini sağlayan önemli bir avantaj olarak gördüğünü belirtiyor. Ancak aynı hız, yeterli insan gözetimi olmadan halüsinasyon olarak adlandırılan sistematik hataların komuta zincirine yükselmesine de zemin hazırlayabiliyor. GovAI araştırma kurumu uzmanı ve eski ordu subayı Jake Steckler, dil modellerinin doğasında var olan belirsizliğin özellikle hedef belirleme ve istihbarat analizi gibi can alıcı kararlar için son derece tehlikeli olduğunu vurguladı. Uzman, bu tür kararların hayati sonuçlar doğurabileceğine dikkat çekerek, olayın yapay zekadan tamamen vazgeçmek için değil, sisteme daha güçlü güvenlik katmanları eklemek için bir uyarı niteliği taşıdığını ifade etti.

Ne anlama geliyor?

Bu gelişme, dijital asistanların ve otomatik analiz araçlarının sunduğu hız ile doğruluk arasındaki ince dengenin, özellikle yüksek riskli alanlarda ne kadar kritik olduğunu gözler önüne seriyor. Algoritmalar, devasa veri kümelerini saniyeler içinde işleyebilse de, eğitim setlerindeki boşluklardan veya bağlamsal yanılgılardan kaynaklanan hatalar üretebilir. Kullanıcılar açısından pratik sonuç şudur; otomatik olarak üretilen bir çıktının, özellikle stratejik veya kritik kararlar için alınırken, mutlaka bağımsız bir insani doğrulama sürecinden geçmesi gerekir. Sistemlerin hızı bir avantajken, bu hızın yarattığı doğrulama boşlukları, basit bir yazım hatasından çok daha yıkıcı sonuçlar doğurabilir. Dolayısıyla, teknolojik araçların etkinliği, onları kullanan insanların bu araçların sınırlarını ve potansiyel hata paylarını ne kadar iyi anladığıyla doğrudan bağlantılıdır. Güvenli bir kullanım, ancak insan gözetiminin algoritmik çıktıların önüne geçen bir denetim mekanizması olarak konumlandırılmasıyla mümkündür.