Yapay zeka (AI) teknolojileri, işe alım süreçlerinde insanlardan daha fazla önyargılı olabiliyor. Princeton Üniversitesi ve Chicago Üniversitesi'nden araştırmacılar, büyük dil modellerini (LLM) bir simüle edilmiş işe alım oyununda test etti ve AI modellerinin, insanlardan daha fazla önyargılı kararlar aldığını keşfetti.

Önyargılı Karar Alma

Araştırmada, ChatGPT, Claude ve Gemini gibi LLM'ler, bir dizi işe alım senaryosunda test edildi. Her model, kurgusal bir şehirde 20 farklı işe alım işlemi için danışman olarak görevlendirildi. Adaylar, dört farklı etnik gruptan (Tufa, Aima, Reku ve Weki) seçildi. Modeller, her turda bir adayı işe almak ve sonraki turlara geçmek için kararlar aldı.

Sonuçlar

Araştırmacılar, LLM'lerin, insan katılımcılardan daha fazla önyargılı kararlar aldığını buldu. LLM'ler, adayları etnik gruplarına göre belirli işlere yönlendirmeye başladı. Örneğin, bir Aima adayı doktor olarak başarısız olduğunda, model, tüm Aima adaylarını doktor olarak işe almaktan kaçındı ve onları temizlik görevlisi olarak işe almaya başladı.

Ne anlama geliyor?

Bu sonuçlar, AI teknolojilerinin, özellikle büyük dil modellerinin, işe alım süreçlerinde önyargılı kararlar alabileceğini gösteriyor. Bu, işverenler ve işe alım uzmanları için önemli bir endişe kaynağı olabilir. LLM'lerin, limited veri üzerinden genellemeler yapma eğiliminde olması, bu önyargılı kararların oluşmasına katkıda bulunabilir. Ayrıca, AI modellerinin, önceki deneyimlerinden ve veri setlerinden öğrenme şekli, bu önyargılı kararları pekiştirebilir.