TechCrunch'a konuşan Reality Defender CTO'su Alex Lisle, bu sorunun temelinde yatan teknik sebepleri ve kullanıcı algısındaki bozulmayı açıkladı.
Görsel Tekdüzelik Neden Ortaya Çıkıyor?
Lisle'e göre, büyük dil modelleri ve difüzyon modelleri devasa veri setleri üzerinde eğitiliyor. Bu modeller, eğitim sırasında öğrendikleri kalıpları takip ederek 'bir burger menüsü' gibi isteklere yanıt verirken, geçmişte popüler olan belirli bir estetik anlayışı yeniden üretiyor. Sonuç olarak, her buz gibi topak mükemmel yuvarlak, her deniz mahsülü ise anatomik olarak garip şekillerde canlandırılıyor. Lisle, bu durumun '2015 tarihli bir fast food menüsü' gibi görünmesinin, modellerin fonksiyonlarını dayandırdığı veri kümesinin (korpus) o dönemdeki işlerden oluşmasıyla açıklanabildiğini belirtiyor.
Bazı durumlarda bu görseller aşırı sahte bir etki bırakırken, çoğu zaman ilk bakışta normal görünüyor ancak detaylara inildiğinde bir anormallik hissi veriyor. Bu durum, yabancı bir varlığın pizzanın temel prensiplerini anlamadan yapmaya çalışması gibi bir sonuç doğuruyor. Örneğin, erimiş peynir detayı öyle abartılı ve sanatsal bir hâl alıyor ki, yemekten ziyade bir avangard sanat eseri gibi algılanabiliyor.
Veri Kirliliği ve Tespit Araçlarının Yükselişi
Yapay zeka şirketleri için yeni eğitim verileri son derece değerli. Amazon'un nadir kitapları taramak ve yüklendikten sonra imha etmek gibi yöntemlerle veri setlerini genişlettiği biliniyor. Bu devasa veri havuzlarına, yapay zeka tarafından üretilmiş içeriklerin sızması kaçınılmaz hale geliyor. Bu geri besleme döngüsü, görsellerin giderek daha benzer ve yapay bir tonda kalmasına yol açıyor.
Bu görsel tutarsızlıklar ve sahtecilik algısı, yapay zeka tespit ve içerik doğrulama araçları satan girişimcilerin (startup) iş alanını genişletmesine de zemin hazırlıyor. Reality Defender gibi şirketler, bu tür görsel anormallikleri tespit ederek kullanıcıların ve işletmelerin güvenilir içerik üretmesine yardımcı olmayı hedefliyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.