Yasa, yapay zeka modellerinin ürettiği içeriğin başka bir araç tarafından tespit edilebilecek şekilde işaretlenmesini zorunlu kılıyor.
OpenAI'nin filigran teknolojisi "textGrain" adı veriliyor ve şirketin testlerine göre yüzde 92 oranında başarılı bir tespit oranı gösteriyor. Ancak metinin yüzde 10'u değiştirildiğinde tespit başarısı neredeyse yüzde 30 oranında düşüyor, yüzde 20'si değiştirildiğinde ise başarı oranı yaklaşık yüzde 75 oranında azalıyor.
Diğer bölgelerde tercihe bağlı
OpenAI, filigran özelliğini diğer bölgelerde de sunacak ancak AB dışında varsayılan olarak kapatılı tutacak. Ayrıntılı ve teknik bir makale yayınlayan şirket, algıcı erişimini sınırlı sayıda araştırmacı ve kuruluşla paylaşacak ve zaman içinde başka kuruluşların eklenmesi için onay isteme süreci başlatacak.
Diğer yapay zeka şirketlerinin yaklaşımı
Rakip OpenAI, Anthropic, Ağustos ayında kendi modellerinin oluşturduğu metinler için filigranlama başlattı. Ancak Anthropic'in aksine OpenAI, şu anda yalnızca düzenlemeci gerekliliklerin olduğu yerlerde—en azından ChatGPT ve Codex uygulamalarında—varsayılan ayarı uyguluyor.
Ne anlama geliyor?
Yapay zeka tarafından oluşturulan metinleri işaretlemek, insanlar tarafından yazılan veya yapay zeka tarafından üretilen içeriği ayırt etmek için bir mekanizmadır. Bu, özellikle sahte haber, akademik sahteciliği veya yanıltıcı içerik yayılımı gibi olası sorunlarla başa çıkmada hayati bir ihtiyaç haline gelmiştir. Filigran teknolojisi, metinde doğrudan görülemeyecek ancak özel bir dedektör tarafından tespit edilebilecek matematiksel desenler ekler. Bu sayede okuyucular için okuma kalitesi değişmezken, içeriğin kaynağı takip edilebilir hale getirilir.
Ancak bu yönteme karşı pratik sınırlamalar vardır. Metni kopyalayıp yapıştırmak, birkaç kelimeyi değiştirmek veya başka bir dile çevirmek gibi basit işlemler filigranı zayıflatabilir veya tamamen ortadan kaldırabilir. Bu durum, filigranlama sistemlerinin tamamen güvenilir bir çözüm olmadığını gösteriyor. Bununla birlikte, çok sayıda metin üzerinde geniş ölçekli yapay zeka kullanımını izlemek için bir başlangıç noktası sunabilir.
Avrupa Birliği'nin bu zorunluluğu, özellikle yapay zeka araçlarının giderek yaygınlaşması karşısında dijital ortamda hesap verebilirlik ve şeffaflığı sağlamaya çalışan düzenleyici bir hamle. Türkiye'de benzer gereksinimlerin henüz kanuni düzeyde zorunlu olmadığı göz önüne alındığında, bu gelişme uluslararası standart belirlenmesine doğru atılan bir adım niteliğindedir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.