CNN'in haberine göre, bu bahar ayında savaş uçakları havadayken yetkililerin şoke edici bir keşif yaptığı anlaşıldı: Çin'e ait bir gemiye karşı planlanan silahlı operasyonun temelini oluşturan istihbarat, tamamen bir yapay zeka sisteminin üretmiş olduğu hatalı verilerden ibaretti. Son dakika yapılan bu müdahale, olası bir uluslararası krizin önüne geçti.
Yanlış istihbaratın komuta zincirindeki yolculuğu
Olayın detaylarına bakıldığında, İsrail ile devam eden savaş döneminde dolaşıma giren bir rapor, hedef alınan geminin nükleer silah programı için kritik bileşenler taşıdığına dair yanlış bir iddiayı içeriyordu. Hatayı yapan kişi, Özel Operasyonlar Komutanlığı'nda görevli bir analistti. Analist, sohbet botundan hatalı bulunan kargo manifestosunu resmî bir görünüme kavuşturmak için ikinci kez faydalandığında, bu yanıltıcı özet komuta kanalları arasında hızla yayıldı. Durum, operasyonun son aşamasında fark edilip iptal edilince olası felaketin eşiğinden dönüldü.
Askeri karar alma hızı ve risk dengesi
Pentagon, yapay zekanın 'öldürme zinciri'ni hızlandırarak komutanların doğru zamanda tepki vermesini sağlayan önemli bir avantaj olarak gördüğünü belirtiyor. Ancak aynı hız, yeterli insan gözetimi olmadan halüsinasyon olarak adlandırılan sistematik hataların komuta zincirine yükselmesine de zemin hazırlayabiliyor. GovAI araştırma kurumu uzmanı ve eski ordu subayı Jake Steckler, dil modellerinin doğasında var olan belirsizliğin özellikle hedef belirleme ve istihbarat analizi gibi can alıcı kararlar için son derece tehlikeli olduğunu vurguladı. Uzman, bu tür kararların hayati sonuçlar doğurabileceğine dikkat çekerek, olayın yapay zekadan tamamen vazgeçmek için değil, sisteme daha güçlü güvenlik katmanları eklemek için bir uyarı niteliği taşıdığını ifade etti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.