Bu filigran, 2 Ağustos'ta yürürlüğe giren kurallara uygun olarak yapay zeka tarafından üretilen içeriği tespit etmeyi sağlayacak.
Filigran Nasıl Çalışıyor?
OpenAI'nin açıklamasına göre, filigran gerçek bir sembol değil; bunun yerine modelin kelime seçimlerini incelikli bir şekilde şekillendirerek, insanlar tarafından görülemeyen ancak dedektörler tarafından tespit edilebilen bir düzen oluşturuyor. Filigran metne gömülü olduğundan, metin kopyalanıp yapıştırıldığında da kalıyor. Şirket, filigranın kullanıcıyı tanımlamadığını ve sistem performansında anlamlı bir değişiklik gözlemlenmediğini belirtti.
OpenAI, "textGrain" adlı bu yönemin teknik raporunu Pennsylvanya Üniversitesi ve Yale araştırmacılarıyla ortaklaşa yayımladı. Rapor, gizli bir anahtar kullanarak cümleleri tamamlamak için sonraki kelime tahminlerini sıralamanın nasıl çalıştığını açıklıyor. Yüzlerce bu tür ayarlama bir araya geldiğinde, dedektör sadece metin ve anahtarı kullanarak yapay zeka tarafından oluşturulan içeriği tespit edebiliyor.
Limitasyonlar ve Geliştirilme Süreci
OpenAI'nin testleri, filigranın düzenleme yoluyla kaldırılabileceğini gösteriyor. Sözcüklerin yüzde 10'unun eşanlamlılarla değiştirilmesi durumunda tespit oranı yüzde 92'den yüzde 66'ya düşüyor. Şirket ayrıca kısa pasajlar, matematik cevapları ve çevrilmiş metinlerin tespit edilmesinin daha zor olduğunu açıkladı. Bu sınırlamalar nedeniyle OpenAI, başlangıçta dedektör erişimini yalnızca onaylı araştırmacılar ve uzman kuruluşlarla paylaşacak. Filigran, gelecek haftalarda AB'deki tüm planlardaki uygun ChatGPT ve Codex kullanıcılarına sunulacak. API geliştiricileri ise dünya genelindeki seçili modeller için bugünden itibaren filigranı açabilecekler, ancak varsayılan olarak kapalı konumda bulunuyor.
Ne Anlama Geliyor?
Yapay zeka tarafından oluşturulan metin, gazetecilik, akademik yazı ve müşteri hizmetleri gibi alanlarda giderek daha yaygın hale geldiğinden, orijinal ve yapay olarak oluşturulan içeriği ayırt etmek bir zorunluluk haline gelmiş durumda. Filigran teknolojisi, bu ayrımı sağlayan bir mekanizmadır. Metin içine gömülü kalıplar sayesinde, sistem insan müdahalesi olmadan içeriğin kaynağını tanımlayabiliyor. Bu, bilginin doğruluğu hakkında endişe duyan okuyucular ve platformlar için önemli bir araçtır.
Avrupa Birliği'nin bu tür teknolojilere ilişkin kurallara öncül olma çabası, dünyadaki diğer bölgelerde benzer düzenlemelerin yolunu açıyor. Fakat filigran sisteminin güvenilirliğinin sınırları vardır; düzenleme, tercüme ve belirli metin türleri tespit oranını önemli ölçüde etkileyebiliyor. Bu nedenle filigran tek başına bir çözüm olarak değil, yapay zeka kaynaklı içeriği tespit etmeye yardımcı bir yöntem olarak görmek gerekir. Filigranın yokluğu da insan yazarlığının kanıtı değildir; bu durum kullanıcıların metinlerin asıl kaynağı hakkında ek araştırma yapmasının gerekliliğini gösterir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.