Meta, yapay zeka ile oluşturulan görselleri tespit etmek amacıyla Content Seal adını verdiği bir su damla işaretleme teknolojisini kullanıma aldı. Sistem, insan gözüyle görünmeyen bir su damgasını yapay zeka tarafından üretilen görüntülere gömüyor ve bu damgaların tespit edilmesiyle sahte içeriklerin ayırt edilmesini amaçlıyor.

Meta'nın yeni sistemi ve Google'ın SynthID arasındaki benzerlikler

Content Seal'in çalışma prensibi, Google'un geliştirdiği SynthID sistemiyle neredeyse aynı. Her iki teknoloji de görüntülere gizli bir su damgası ekliyor ve bu damgaların kırpılma, sıkıştırılma, yeniden boyutlandırılma veya ekran görüntüsü alınması gibi işlemlerden sonra da tespit edilebilir olduğunu iddia ediyor. Meta, Content Seal'in özelliklerini duyururken bu benzerlikten söz etmedi ve sistemini neredeyse sessizce kendi Muse görüntü ve video üretim araçlarının duyurusunun bir dipnotu olarak ekledi.

Sınırlamalar ve uygulama sorunları

Benzerliklerine rağmen Content Seal'in mevcut haliyle ciddi sınırlamaları bulunuyor. Şu anda, Meta tarafından test edilen ve web üzerindeki bir araç aracılığıyla çalışıyor. Google'un Gemini sohbet robotu içerisinde SynthID tespit özelliğini sunmasının aksine, Meta henüz Content Seal algılama yeteneklerini kendi Meta AI sohbet botuna entegre etmemiş durumda. Su damgası da şimdilik yalnızca Muse uygulamasında Meta AI aracılığıyla ve Meta.ai web sitesinde oluşturulan görüntülere uygulanıyor.

Neden bağımsız bir sistem oluşturuldu?

Meta, Koalisyon İçin İçerik Kökenselliği ve Gerçekliği (C2PA) kuruluşunun yönetim kurulu üyesi olarak faaliyet gösteriyor ve bu kuruluş Google'la birlikte Content Credentials standardını destekliyor. Google ise SynthID'i OpenAI dahil olmak üzere rakip yapay zeka sağlayıcılarına da açmış durumda. Böylesi bir işbirliği ortamında, Meta'nın neden kendi sistemi geliştirmeyi tercih ettiği hala net değil.

Ne anlama geliyor?

Su damla işaretleme, yapay zeka tarafından oluşturulan görüntülerin içine yazılı veya açıkça görülen etiketler eklenmek yerine, görüntünün piksel yapısının içerisine gizli bilgiler yerleştiren bir yöntemdir. Bu yaklaşım, sahtekârlık amaçlı görüntüleri orijinal içeriklerden ayırabilmek için tasarlanmıştır; çünkü kullanan kişiler yapılan değişiklikleri fark etmek zor olan, fakat özel araçlarla ölçülebilen işaretler bırakır.

İçerik tespiti, insanların sosyal medya ve çevrimiçi platformlarda karşılaştıkları görüntülerin gerçek olup olmadığını anlamlandırması açısından önem taşıyor. İnsan gözüne görünmeyen işaretler, görüntüyü yeniden paylaşanlar tarafından da algılanamayacağı için, yanıltıcı içeriğin yayılmasını engellemeye yönelik bir çabadir.

Türkiye'de de yapay zeka tarafından oluşturulan ve gerçek gibi görünen görüntüler sosyal medyada giderek daha sık karşılaşılan bir sorun haline gelmektedir. Böylesi tespit sistemlerinin yaygınlaşması, kullanıcıların karşılaştıkları içeriğin orijinal olup olmadığını belirlemede yardımcı olacaktır. Ancak sistemin etkili olması için, tespit araçlarının insanların düzenli olarak ziyaret ettikleri uygulamalar ve platformlar içine doğrudan entegre edilmiş olması gerekir.