Kaliforniya eyaletindeki Mount Shasta zirvesine tırmanmaya hazırlanan bir grup dağcı, Google'ın yapay zeka asistanı Gemini'den aldıkları hatalı bilgiler nedeniyle hayatlarını tehlikeye atan bir durumla karşı karşıya kaldı. Dağcılar, yapay zekanın tırmanışın yalnızca 8 saat süreceğini ve bunun için basit karbonhidrat ağırlıklı gıda yeterliliğini belirtmesi üzerine, yeterli erzak, sıcak giysi veya barınak malzemesi taşımaksızın yola çıktılar.

Yanlış planlama ve zorlu iniş süreci

29 Ağustos'ta kampa yerleşen grup, 30 Ağustos sabahı saat 03.00'te tırmanışa başladı. Zirveye varmaları tam 16 saat sürdü ve bu süre, önerilen 12.00 dönüş saatini çoktan aşmıştı. Karanlık çöktüğünde inişe geçen dağcılar, yanlış rotalarda dolaşmaya başladı. Navigasyon için kullandıkları telefonun pilinin bitmesiyle iletişim koptu ve 911'i arayarak yardım istemek zorunda kaldılar.

31 Ağustos sabahı 09.30 civarında ABD Orman Hizmetleri dağcılığı rangerları ve Siskiyou İlçe Şerifliği Arama Kurtarma ekibi bölgeye ulaştı. Hava koşullarının helikopterle kurtarışa izin vermemesi nedeniyle dağcılar, ekibin rehberliğinde 9 saatlik zorlu bir yaya inişi gerçekleştirerek tamponluk bölgesine sağ salim döndüler.

Yetkililerden yapay zeka uyarısı

Yaşanan olayın ardından dağcılar, kritik düşünme yetilerini devre dışı bırakıp yapay zekaya aşırı güvendiklerini kabul etti. Siskiyou İlçe Şerifliği, tırmanış öncesi Ranger istasyonlarını aramaları ve kesinlikle yalnızca yapay zeka çıktısına güvenilmemesi gerektiği konusunda kamuoyunu bilgilendirdi. Bu vakıa, yapay zeka asistanlarının yaşamı tehdit eden planlamalarda tek kaynak olarak kullanılamayacağının somut bir örneği olarak kayda geçti.

Ne anlama geliyor?

Yapay zeka sistemleri, büyük veri setlerinden öğrenmiş oldukları genel eğilimlere dayanarak cevap üretir. Bu nedenle, dinamik ve değişken olan doğa koşulları gibi spesifik senaryolarda kesinlik payı düşük olabilir. Kullanıcıların, sistemlerin verdiği bilgiyi mutlak bir gerçeklik olarak değil, başlangıç noktası olarak görmesi gerekir. Kritik karar anlarında çevresel verilerin ve bireysel deneyimin değerlendirmeye alınması, olası risklerin minimize edilmesini sağlar.

Bu tür teknolojiler, rutin planlamalarda zaman kazandırsa da, hayati önem taşıyan durumlarda doğrulanabilir ve güncel kaynaklarla desteklenmelidir. Kullanıcıların, dijital asistanların sınırlarını bilerek hareket etmesi, hem kişisel güvenlik hem de veri güvenilirliği açısından temel bir ilke haline gelmiştir. Doğru bilgiye ulaşmak için teknolojik araçlarla geleneksel bilgi kaynaklarının birlikte değerlendirilmesi, olası hayati risklerin önüne geçmenin en etkili yoludur.