ABD’de yaşayan bir anne, 1 Eylül’de kızıyla birlikte çaldığı şarkıyı video olarak Instagram’da paylaştı. Ertesi gün Meta’nın yapay zeka destekli öneri sistemi “Çocuk yolcu kim?” sorusunu yöneltti.

Yapay Zeka Sorduğu Soru

Öneride, videoda görünen çocuğun kimliği sorulurken, sistem aynı anda diğer çocuğu da tanımlamaya çalıştı.

Yaygınlık ve Tepki

Anne, 2 Eylül’de sosyal medya üzerinden şaşkınlığını paylaştı ve sistemin bu tür sorularla neden uğraşması gerektiğini sorguladı.

Ne anlama geliyor?

Yapay zeka destekli algoritmalar, yüklenen görselleri analiz ederek içindeki nesneleri tanımlama yeteneğine sahiptir. Bu süreçte, videodaki kişilerin kimlikleri, yaşları veya ilişkileri gibi bilgiler, algoritmanın öğrenme modeline dayanarak otomatik olarak çıkarılabilir. Kullanıcı deneyimini geliştirmek amacıyla öneri sistemleri, ilgili sorularla kullanıcının dikkatini çekmeyi hedefler. Ancak bu mekanizma, kişisel verilerin toplama ve işleme biçimiyle ilgili etik soruları gündeme getirir. Özellikle çocukların bilgilerinin gizliliği konusunda yasal düzenlemeler ve platform politikaları, veri koruma ilkelerine uygunluk gerektirir. Kullanıcılar, bu tür otomatik önerilerle karşılaştıklarında, sistemin hangi verileri kullandığını ve nasıl karar verdiğini anlamak için şeffaflık talep etmeli.