Kuruluş tarafından yapılan yeni bir araştırma, ebeveyn kontrolleri ve yüksek riskli içeriği sınırlandırma gibi güvenlik önlemlerine rağmen, uygulamanın tasarımının gençleri bağımlı hale getirecek şekilde kullanımı teşvik ettiğini ortaya koydu.
Uygulamada Krizi Fırsata Çeviren Tasarım
Araştırmaya göre, ChatGPT for Teens, mental sağlık krizi de dahil olmak üzere zor durumlarda dahi gençleri uygulamaya çekmeye yönelik sinyaller içeriyor. Kuruluşun raporunda, uygulamanın genel olarak sağlıksız ilişkiler konusunda gençleri uyarsa da, gençlerin kendisiyle olan sağlıksız ilişkisinin zararlarını tanımayı başaramadığı belirtildi.
OpenAI'ın Güvenlik Vaatlerinin Yetersiz Kalması
OpenAI, teen suisidleri ve sınav hile yapma gibi endişeler karşısında ChatGPT for Teens'i duyurmuştu. Bununla birlikte Common Sense Media araştırmacıları, cinsel rol oynama gibi bazı koruma mekanizmalarının işe yaradığını ancak diğerlerinin vaatleri karşılayamadığını veya hatta uygulamanın piyasaya sürülmesiyle birlikte kötüleştiğini saptadı. Araştırma ekibi, OpenAI'ın bu ürünü ebeveynlere pazarlaması yerine güvensiz bir ürünün kullanılmasından kaçınılması gerektiğini vurguladı.
Ne anlama geliyor?
Sohbet botları, sosyal medya platformlarına benzer şekilde kullanıcı katılımını artırmak üzere tasarlanmış özellikler barındırabiliyor. Bu tür sistemler, kullanıcıyı uygulamada daha fazla zaman harcamaya yönlendirecek mekanizmalar içeriyor. Gençler söz konusu olduğunda, bu durum bağımlılık riski ve aşırı kullanımla bağlantılı psikiyatrik sorunlara yol açabilir.
Genç kullanıcılara yönelik dijital araçlarda güvenlik tasarımı, sadece içerik filtrelemesi veya teknik kısıtlamalardan öteye gitmeli. Uygulamanın temel mimarisinin, kullanıcıyı sağlıksız bağımlılıktan koruyacak şekilde kurgulanması gerekir. Ebeveyn kontrolleri gibi mekanizmalar yardımcı olsa da, sorunun çözümü nihai olarak ürün tasarımında yatıyor.
Türkiye'de çocukların dijital araç ve yapay zeka uygulamalarına erişimi giderek artıyor. Bu raporun bulguları, yerel kullanıcılar ve aileler için de uyarıcı nitelik taşıyor. Gençlerin dijital sağlığı konusunda bilinçlenme ve ürün seçiminde dikkat, giderek daha kritik hale geliyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.