xAI'ın geliştirdiği Grok sohbet botunun trafiğinin yarısından fazlasını yetişkin içeriği kullanıcılarının oluşturduğu ortaya çıktı. Şirketin eski çalışanlarının verdiği bilgilere göre, pornografik içerik üretiminden erotik yazılara kadar geniş bir yelpazede istekler gelmektedir.

Grok'un Yetişkin Odaklı Stratejisi

xAI, Grok'u diğer yapay zeka şirketlerine kıyasla daha az kısıtlamaya sahip, cesur bir sohbet botu olarak tanıtmıştır. Şirketin bu stratejisinin ardında yatan sebep, kullanıcıların bu tür hizmetleri yoğun biçimde talep etmesi görülmektedir. Raporda, yetişkin roleplaying sohbetleri ve büyük hacimde erotika talebinin ortaya çıktığı belirtilmektedir.

Grok'un kullanıcıları, kodlama amaçlı modeller aracılığıyla yetişkin içerik talepleri yönlendirmek daha ucuz olduğunu keşfetmişlerdir. Şirket içi analiz, kod yazma modeline gelen isteklerin önemli bir bölümünün pornografik veya çıplak görüntü talebi olduğunu göstermiştir.

İç Zorluklar ve Etik Dilemmalar

xAI mühendisleri, Grok'un kullanıcılarla seksi konuşmalar yapabilmesini sağlarken çocuk istismarı materyaline ilişkin talepleri engelleme arasında bir denge bulmak zorunda kalmışlardır. Bazı çalışanlar ise, Grok'un yetişkin anime karakteri rehberi olan 'Ani' üzerinde çalışmak konusunda rahatsızlık duymuştur. Platformun gerçek kişilerin, hatta çocukların cinselleştirilmiş görüntülerini oluşturması sonrasında yaşanan skandal, çalışanlar arasında utanç ve kaygı yaratmıştır.

Hükümet Sözleşmeleri ve Potansiyel Riskler

xAI, devlet kurumları ve asker ile sözleşmeler imzalamıştır. Bu kurumlar tipik olarak yetişkin içeriğe karşı sıfır tolerans gösterir. Grok'un geçmişteki rızası olmayan deepfake ve çocuk istismarı materyali olayları çeşitli davalar ve araştırmalara yol açmıştır. Ancak bu olayların hükümet ilişkilerine etkisi henüz netlik kazanmamıştır.

SpaceX, Grok'un halka arz döneminde şirketin 'vicdansız' özelliklerinin potansiyel bir risk oluşturduğunu ifade etmiş ve olası hukuki masraflar için 530 milyon dolar ayırmıştır.