Yapay zeka şirketi Anthropic, Claude tarafından üretilen metinlere görünmez filigranlar ekleyeceğini duyurdu. Bu adım, Avrupa Birliği'nin yapay zeka şeffaflık kurallarına uyum sağlamak amacıyla atılıyor.

Google DeepMind Teknolojisi Kullanılacak

Şirket, bu işlem için Google DeepMind tarafından geliştirilen açık kaynaklı SynthID-Text sisteminin bir versiyonunu kullanacak. Bu sistem, metin içerisindeki kelime olasılıklarını kullanarak tespit edilebilir kalıplar oluşturuyor. Anthropic, bu özelliğin kullanıcılar için ek maliyet getirmeyeceğini ve çıktıların kalitesini etkilemeyeceğini açıkladı.

Filigran Sistemi Nasıl Çalışıyor?

Sistem, anlamı değiştirmeyen ancak birbirine yakın olasılıktaki kelimeler arasından seçim yaparak çalışıyor. Okuyucu tarafından fark edilemeyen bu seçimler, özel bir anahtara sahip olan kişiler tarafından tespit edilebilen dijital izler bırakıyor. Söz konusu teknoloji, rastgele sayı üreticileri yerine şifrelenmiş bir anahtar ve önceki kelimeler üzerinden seçim yaparak kalıplar oluşturuyor.

Yasal Zorunluluklar ve Sektörel Durum

Avrupa Birliği Yapay Zeka Yasası, sentetik olarak üretilen ses, görüntü, video ve metinlerin makine tarafından okunabilir işaretler taşımasını zorunlu kılıyor. Google'ın Gemini sohbet botu 2024 yılından beri SynthID Text çözümünü desteklerken, OpenAI'ın da benzer yasal zorunluluklar kapsamında benzer adımlar atması bekleniyor.

Ne anlama geliyor?

Metin üretim süreçlerinde kullanılan bu yöntem, olasılıksal seçim mekanizmasıyla çalışır. Bir dil modeli bir sonraki kelimeyi seçerken, anlamı bozmayacak benzer kelimeler arasından belirli bir matematiksel kurala göre seçim yapar. Bu durum, dışarıdan bakıldığında doğal bir metin gibi görünse de, verinin arka planında belirli bir dijital imza bırakılmasını sağlar.

Bu uygulama sayesinde, dijital içeriklerin insan tarafından mı yoksa bir yazılım tarafından mı oluşturulduğu teknik olarak doğrulanabilir hale gelir. Sektördeki genel amaç, yanıltıcı içeriklerin yayılımını önlemek ve şeffaflığı artırmaktır. Kullanıcı tarafında ise işlem süreci tamamen arka planda gerçekleştiği için metin okuma deneyiminde herhangi bir farklılık yaşanmaz.