Princeton ve Chicago Üniversitelerinden araştırmacıların gerçekleştirdiği yeni bir çalışma, yapay zeka modellerinin veri setlerinde önceden tanımlanmış bir önyargı olmasa dahi, deneyim yoluyla yeni sosyal önyargılar geliştirebildiğini ortaya koydu. Özellikle işe alım süreçlerinde kullanılan büyük dil modellerinin, rastgele sonuçlardan ziyade geçmiş verilere aşırı odaklanarak yapay demografik gruplar arasında ayrımcılık yaptığı belirlendi.

Sanal Etnik Gruplar Üzerinde Yapılan Deney

Araştırmacılar; Tufa, Aima, Reku ve Weki isimli tamamen kurgusal dört etnik grup oluşturarak yapay zeka modellerine bir işe alım simülasyonu yaptırdı. Adayların başarı şansları eşit olmasına rağmen, sistemler olumsuz bir geri bildirim aldıklarında ilgili grubun diğer üyelerini de reddetme eğilimi gösterdi. İnsan katılımcılarla yapılan benzer deneylerde de önyargı oluştuğu ancak yapay zeka modellerinde bu oranların çok daha yüksek olduğu saptandı.

Gelişmiş Modeller Daha Fazla Ayrımcılık Yapıyor

OpenAI, Anthropic, DeepSeek, Meta, Google ve Alibaba gibi sağlayıcılardan toplam 15 farklı model test edildi. Çalışma sonuçlarına göre OpenAI'ın o3 akıl yürütme modeli, kurgusal adayları en sert şekilde sınıflandıran model oldu. Araştırmacılar, daha yeni ve daha büyük akıl yürütme kapasitesine sahip modellerin, geçmiş sonuçlar hakkında daha kesin çıkarımlar yaptığı için istemeden de olsa daha fazla önyargılı sonuçlar ürettiğini gözlemledi.

Sektörel Etkiler ve Hukuki Süreçler

ManPower Group tarafından yapılan bir ankete göre şirketlerin yüzde 90'ından fazlası yetenek kazanımı süreçlerinde yapay zekayı kullanıyor. Ancak bu durum beraberinde hukuki sorunları da getiriyor. İnsan sermayesi yönetimi yazılımları sunan Workday firması, sunduğu yapay zeka araçlarının ayrımcılık yaptığı iddiasıyla toplu dava ile karşı karşıya kaldı. Benzer şekilde Meta'da da işten çıkarma kararlarının, engelli çalışanlara karşı önyargılı bir yapay zeka sistemine dayandığı iddiasıyla davalar açıldı.

Ne anlama geliyor?

Bu gelişme, karar verme mekanizmalarındaki keşif ve faydalanma dengesinin teknik işleyişini ortaya koyuyor. Sistemler, yeni bir seçeneği deneyip risk almak yerine, daha önce olumlu sonuç veren tanıdık yolları tercih etme eğilimi gösteriyor. Bu durum, ödül maksimizasyonu odaklı çalışan algoritmaların, istatistiksel olarak düşük olasılıklı ama doğru olan seçenekleri tamamen elemesine yol açıyor.

Teknik olarak bu süreç, verilerdeki örüntüleri tanıma yeteneğinin yanlış yönlendirilmesidir. Sistem, belirli bir özellik ile olumsuz sonuç arasında gerçekte olmayan bir bağ kurduğunda, bu bağı genel bir kurala dönüştürüyor. Sonuç olarak, geçmişteki tek bir başarısızlık, aynı özelliklere sahip tüm grubu sistem dışı bırakan bir filtreye dönüşerek fırsat eşitliğini ortadan kaldırıyor.