Redact adlı gizlilik şirketinin gerçekleştirdiği analiz, platformun yaklaşık 80 yardım ve sıkça sorulan soru sayfasında, büyük dil modelleri için hazırlanmış ancak kullanıcıların görmesi beklenmeyen metin bloklarının kod altyapısında mevcut olduğunu ortaya çıkardı. Bu durum, şirketin yapay zeka destekli müşteri hizmetlerindeki yönlendirme mekanizmalarına dair nadir görülen bir içgörü sağladı.
Gizli talimatların içeriği ve hukuki kısıtlamalar
İnternet tarafında (WIRED) aktarılan bilgilere göre, toplamda 100 civarında gizli metin bloğu arasında, sohbet robotunun kullanıcılara hukuki danışmanlık vermemesi gerektiğine dair açık hükümler yer alıyordu. Hesap silme sayfasındaki talimatlarda, kullanıcıların veri koruma otoriteleri veya düzenleyici kurumlarla iletişime geçmesi konusunda tavsiyede bulunulmaması istenirken, hukuki eylemler, avukatlar veya mahkemelerle ilgili sorularda WhatsApp’ın hizmet şartları, gizlilik politikası veya herhangi bir hukuki belgeye atıfta bulunulmaması gerektiği vurgulanıyordu. Ayrıca yapay zekanın, şirketin sorumluluğu veya sorumluluğu olmadığına dair beyanlarda bulunmaktan kaçınacağı ve GDPR, LGPD veya CCPA gibi veri koruma düzenlemelerini yorumlamayacağı belirtiliyordu.
Meta’dan açıklama ve sorunun giderilmesi
WhatsApp sözcüsü Joshua Breckman, durumun bir yazılım hatası nedeniyle meydana geldiğini ve ilgili metinlerin artık tüm sayfalardan kaldırıldığını duyurdu. Breckman, bu talimatların doğrudan kullanıcılara değil, yapay zeka destekli WhatsApp Destek hattını kullananlara daha doğru ve alakalı yanıtlar vermesi amacıyla sohbet robotuna verildiğini söyledi. Sözcü, şirketin destek robotlarını mümkün olduğunca faydalı olacak şekilde eğittiklerini, ancak amacın hukuki tavsiye vermek olmadığını yineledi. Redact.dev’nin kurucusu Dan Saltman ise, kullanıcılara iletilen bilgilerle yapay zeka modellerine verilen talimatlar arasındaki farkın dikkat çekici olduğunu ifade etti. Redact ekibinin bulduğu talimatların çoğunun resmi destek kanallarına yönlendirme niteliğinde olduğu, ancak bu içeriklerin kamuya açık olması için tasarlanmadığı kaydedildi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.