Özellikle işe alım süreçlerinde kullanılan büyük dil modellerinin, rastgele sonuçlardan ziyade geçmiş verilere aşırı odaklanarak yapay demografik gruplar arasında ayrımcılık yaptığı belirlendi.
Sanal Etnik Gruplar Üzerinde Yapılan Deney
Araştırmacılar; Tufa, Aima, Reku ve Weki isimli tamamen kurgusal dört etnik grup oluşturarak yapay zeka modellerine bir işe alım simülasyonu yaptırdı. Adayların başarı şansları eşit olmasına rağmen, sistemler olumsuz bir geri bildirim aldıklarında ilgili grubun diğer üyelerini de reddetme eğilimi gösterdi. İnsan katılımcılarla yapılan benzer deneylerde de önyargı oluştuğu ancak yapay zeka modellerinde bu oranların çok daha yüksek olduğu saptandı.
Gelişmiş Modeller Daha Fazla Ayrımcılık Yapıyor
OpenAI, Anthropic, DeepSeek, Meta, Google ve Alibaba gibi sağlayıcılardan toplam 15 farklı model test edildi. Çalışma sonuçlarına göre OpenAI'ın o3 akıl yürütme modeli, kurgusal adayları en sert şekilde sınıflandıran model oldu. Araştırmacılar, daha yeni ve daha büyük akıl yürütme kapasitesine sahip modellerin, geçmiş sonuçlar hakkında daha kesin çıkarımlar yaptığı için istemeden de olsa daha fazla önyargılı sonuçlar ürettiğini gözlemledi.
Sektörel Etkiler ve Hukuki Süreçler
ManPower Group tarafından yapılan bir ankete göre şirketlerin yüzde 90'ından fazlası yetenek kazanımı süreçlerinde yapay zekayı kullanıyor. Ancak bu durum beraberinde hukuki sorunları da getiriyor. İnsan sermayesi yönetimi yazılımları sunan Workday firması, sunduğu yapay zeka araçlarının ayrımcılık yaptığı iddiasıyla toplu dava ile karşı karşıya kaldı. Benzer şekilde Meta'da da işten çıkarma kararlarının, engelli çalışanlara karşı önyargılı bir yapay zeka sistemine dayandığı iddiasıyla davalar açıldı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.