xAI tarafından geliştirilen yapay zeka sohbet botu Grok, diğer rakiplerine kıyasla daha esnek güvenlik duvarlarına sahip olma stratejisinin sonuçlarını rakamlarla ortaya koydu. The Information tarafından yayınlanan ve eski şirket çalışanlarına dayandırılan rapora göre, Grok üzerindeki trafiğin yarısından fazlasını NSFW yani yetişkin içerikli etkileşimler oluşturuyor.

Kodlama Modelleri Erotik İçerik İçin Kullanılıyor

Kullanıcıların, maliyet avantajı sağlamak amacıyla Grok'un aslında kod yazımı için tasarlanmış modellerini erotik içerikler üretmek için kullandığı belirlendi. Şirket içi analizler, kodlama modeline gelen taleplerin önemli bir kısmının çıplak görüntüler veya pornografik içerikler olduğunu ortaya koydu. Bu durum, xAI gelirlerinin hatırı sayılır bir kısmının yetişkin içerikli taleplerden geldiğini gösteriyor.

Hukuki Riskler ve 530 Milyon Dolarlık Fon

SpaceX, potansiyel yatırımcılara Grok'un 'kuralsız' özelliklerinin bir risk teşkil edebileceğini bildirdi. Şirketin, bu durumun yaratabileceği olası hukuki maliyetlerle başa çıkabilmek için 530 milyon dolar tutarında bir kaynak ayırdığı belirtildi. Ayrıca mühendislerin, yetişkin içerikli sohbetlere izin verirken çocuk istismarı içeren materyallerle ilgili talepleri engellemek için zorlu süreçlerle uğraştığı aktarıldı.

Gerçek Kişilerin Görüntüleri ve Devlet Sözleşmeleri

Grok'un gerçek kişilerin, hatta çocukların cinselleştirilmiş görüntülerini oluşturması şirket içinde rahatsızlık yarattı. X platformu üzerinden gerçek kişilerin görselleri üzerinde yapılan müdahaleler sınırlandırılsa da, xAI'ın ücretli abonelerinin hala bu tür içerikler üretebildiği tespit edildi. Öte yandan xAI, bu içerik odaklı yaklaşımına rağmen çeşitli kamu kurumları ve askeri birimlerle sözleşmeler imzalamaya devam ediyor.

Ne anlama geliyor?

Yapay zeka sistemlerinde içerik filtreleme, girişlerin belirli etik ve güvenlik standartlarına göre denetlenmesi sürecidir. Gelişmiş modellerde kullanılan güvenlik katmanları, toplumsal değerlere aykırı veya yasal olarak sorunlu içeriklerin üretimini engellemeyi amaçlar. Ancak bazı sistemler, daha geniş bir ifade özgürlüğü veya farklı kullanıcı taleplerini karşılamak adına bu filtreleri gevşeterek çalışır.

Bir dil modelinin farklı amaçlar için kullanılan alt versiyonlarının olması, işlem gücü ve maliyet optimizasyonu ile ilgilidir. Teknik olarak daha basit veya belirli bir göreve odaklanmış modeller, daha düşük kaynak tükettiği için kullanıcılar tarafından alternatif yollar olarak tercih edilebilir. Bu durum, sistemin tasarım amacı dışında kullanılmasına yol açarak veri güvenliği ve denetim mekanizmalarını zorlaştırır.

Yapay zeka aracılığıyla görsel üretimi, mevcut verilerin analiz edilip yeni piksellerin oluşturulması prensibiyle çalışır. Gerçek kişilerin görüntüleri üzerinden üretim yapıldığında, bu durum dijital haklar ve veri gizliliği ile ilgili teknik sorunları beraberinde getirir. Sistemin belirli içerikleri engelleme yeteneği, veri setindeki etiketleme hassasiyetine ve filtrelere eklenen anahtar kelimelerin etkinliğine bağlıdır.