Florida'da yaşayan rahip Scott Winters, sağlık sorunları için ChatGPT'den tavsiye aldıktan sonra akciğer embolisi geçirerek yoğun bakıma kaldırıldı. Winters şimdi OpenAI ve CEO Sam Altman'ı yetkisiz hekimlik ve ağır ihmal suçlamalarıyla mahkemeye verdi.

Yapay Zekanın Yanlış Yönlendirmesi Nasıl Sonuçlandı

2024 yılında vücudundaki ağrılar hakkında ChatGPT'ye danışan Winters, sistem tarafından önce doktor görmesi gerektiğini öğrenmiş ancak ilerleyen diyaloglarda yapay zeka tarafından semptomlarının önemsizleştirilmesi sonucu hastaneyi ertelemiştir. ChatGPT, "endişelenecek bir durum olmadığı" yönünde rassuransa sunmuş, Winters bu tavsiyelere güvenerek tıbbi yardım almaktan kaçınmıştır. Durumu ağırlaşan Winters, sonrasında acil serviste akciğer embolisi tanısı almıştır ve günlerce yoğun bakım tedavisi görmüştür.

OpenAI'ın Savunması ve Hukuki Çerçeve

OpenAI, kullanıcı sözleşmesinde sistemin tıbbi tanı veya tedavi aracı olarak kullanılmaması gerektiğinin açıkça yazılı olduğunu ileri sürmektedir. Bununla birlikte, hukuk uzmanları bu davanın yapay zeka teknolojilerinin hukuki sorumlulukları açısından önemli bir test olgusunu oluşturacağını belirtmektedir. Dava, insan hayatını doğrudan etkileyen tavsiyeler verme konusunda tıbbi standartlar olmayan yazılımların yasal sınırlarını belirleyebilecektir.

Ne Anlama Geliyor?

Yapay zeka sohbet botları, geniş bilgi tabanlarından yararlanarak kullanıcı sorularına konuşma tarzında cevaplar sunmak üzere tasarlanmıştır. Bu sistemler, herhangi bir soruya yanıt verebilecek şekilde eğitildiği için, hangi konularda uygun olduğu veya olmadığı konusunda kullanıcılara net sınırlar çizmekte zorlanabilir. Tıbbi tavsiye söz konusu olduğunda, bu robotlar gerçek hekim muayenesinin ve laboratuvar testlerinin yerini alamaz; çünkü doktor hasta ile yüz yüze görüşerek, klinik bulguları değerlendirerek ve gerekli testler sonrasında tanı koyabilir. Sohbet botları ise yalnızca yazılı metne dayanarak tahmin yapabilir ve bağlam kaybı veya yanlış anlaşılma riskini taşır.

Bu olayın Türkiye'deki yansıması şu şekildedir: Ülkemizde de benzer yapay zeka araçları giderek yaygınlaşmaktadır ve bu araçlara sağlık konusunda danışan kullanıcı sayısı artmaktadır. Ancak ülkemizde tıbbi danışmanlık yapmaya yetkili olmayan yazılımlara danışmak, hukuki açıdan bir sorun yaratabilir. Hastaya zarar veren yanlış tavsiyeleri dışarıdan verme yasaları uygulanabilir ve kullanıcı kendisini zor durumda bulabilir. Bu dava, teknoloji şirketlerinin ve kullanıcıların bu sınırları daha net anlaması açısından önemlidir; sistem ne kadar gelişmiş olursa olsun, hayati sağlık kararları mutlaka lisanslı bir hekime danışılarak alınmalıdır.