Anthropic, Avrupa Birliği Yapay Zeka Yasası ile uyum sağlamak amacıyla Claude kullanıcılarının oluşturduğu metinlere uygulanacak filigran sisteminin detaylarını paylaştı. Yapay zeka tarafından üretilen içeriklerin insan eliyle yazılmış gibi gösterilmesini zorlaştırmayı hedefleyen bu hamle, kullanıcılar arasında sert tepkilere yol açtı.

Kullanıcılar Aboneliklerini İptal Ediyor

Sistemin duyurulmasının ardından birçok ücretli Claude kullanıcısı, özellikle Avrupa Birliği dışında yaşayanların neden bu kısıtlamaya tabi tutulduğunu sorgulayarak aboneliklerini sonlandırdıklarını açıkladı. X platformunda paylaşılan ekran görüntüleri, yapay zeka etkileyicileri dahil olmak üzere pek çok kişinin filigran fikrini kabul edilemez bulduğunu gösteriyor.

Görünmez Filigran Teknolojisi Nasıl Çalışıyor?

Anthropic, Google'ın SynthID makalesiyle benzer bir altyapı kullandığını belirterek, filigranların okuyucular tarafından fark edilemeyeceğini iddia ediyor. Sistem, anlamı değiştirmeyen ancak istatistiksel tercihler içeren kelime seçimleri üzerinden çalışıyor. Örneğin, hava durumunu tarif ederken birbirine yakın anlamlı kelimeler arasından gizli bir anahtar yardımıyla belirli tercihler yapılıyor ve bu örüntü daha sonra tespit araçları tarafından okunabiliyor.

Düzenleme Yapılan Metinlerdeki Risk

Şirketin açıklamasına göre, sistem sadece sıfırdan üretilen metinlerde değil, insanların yazdığı içerikler üzerinde yapay zeka ile düzenleme yapıldığında da devreye girebilir. Metnin uzunluğuna ve müdahale düzeyine bağlı olarak, düzenleme işlemlerinin tespit edilebilir hale gelme ihtimali bulunuyor. Bu durum, içeriği müşterilerine veya eğitim kurumlarına sunan kullanıcılar için risk oluşturuyor.

Ne anlama geliyor?

Metin tabanlı içeriklerde uygulanan bu yöntem, kelime seçimleri sırasında matematiksel bir olasılık dağılımının değiştirilmesi prensibine dayanır. Yazılım, anlamca birbirine çok yakın seçenekler arasından belirli bir şifreleme anahtarına uygun olanları seçer. İnsan gözü için doğal görünen bu dizilimler, özel bir tarama aracıyla kontrol edildiğinde içeriğin bir yazılım tarafından üretildiğini kanıtlar.

Bu mekanizma, özellikle akademik ve profesyonel alanlarda içeriğin kaynağını doğrulamak için kullanılır. Kullanıcılar açısından en büyük etkisi, gizli bir işaretleme sistemi sayesinde üretilen metnin kimliğini gizlemenin teknik olarak zorlaşmasıdır. Yazılımın hızı veya işlem maliyeti üzerinde etkisi olmayan bu süreç, içerik denetimi ve şeffaflık standartlarını artırmayı hedefler.