Model, İngilizce yazılan içerik politikalarını 50 milisaniyeden kısa sürede uygulamayı hedefliyor.
Musubi'nin geliştirdiği sistem, sosyal platformlarda moderasyonu güçlendiren geleneksel yapay zeka sınıflandırıcılarıyla benzer maliyet ve hızda çalışıyor. Ancak modern dil modellerinin esnekliğine sahip olduğu için, özel eğitim yapılmaksızın karmaşık politikaları uygulayabiliyor. Özellikle önemli olan nokta ise politikalar değiştiğinde modelin yeniden eğitilmeye ihtiyaç duymaması; bu da platform yöneticilerine politikaları istediği sıklıkta güncelleme imkanı veriyor.
Musubi kurucu ortağı ve başhekim Filip Jankovic, artan içerik hacmi karşısında platform yöneticilerinin platformlarında neler olup bittiğini daha iyi anlaması gerektiğini belirtiyor. Sistem sayesinde içeriklerin ölçeklenebilir ve özelleştirilebilir bir şekilde etiketlenmesi mümkün hale geliyor.
Karar Modelleri Sektörü Değiştiriyor
Karar modelleri, Eylül ayında piyasaya sürülen TypeSafe AI'ın Jev'i ile başlayan bir çalışma alanında öne çıkıyor. Bunu takiben OpenAI ve Amazon da kendi karar modellerini duyurdu. Bu modeller, geleneksel yapay zeka sistemlerinin aksine metin çıktısı yerine sonuç olasılıklarını sunuyor. PolicyLM-1.7B durumunda ise model ikili bir karar veriyor: içerik belirtilen kategoriye giriyor ya da girmiyor.
Ne anlama geliyor?
İçerik moderasyonu, sosyal ağlardaki yazı, görüntü ve videoların şirketin belirlediği kurallara uyup uymadığını kontrol etme işlemidir. Geleneksel yöntemlerde moderatörler ya insan gücüyle ya da özel olarak eğitilmiş dar kapsamlı yapay zeka sistemleriyle bu denetimi gerçekleştiriyordu. Yeni karar modeli yaklaşımı, genel amaçlı dil modellerinin anlama yeteneğini moderasyona uyarlaması anlamına geliyor.
Bu teknoloji, platformlar için pratik açıdan önemli bir değişim demektir. Çünkü bir politika değişikliğinde (örneğin yeni bir düzenleme gelmesi veya platform yönetiminin karar değiştirmesi) tüm sistemi yeniden eğitmek yerine, politika metnini güncellemek yeterli oluyor. Böylece daha hızlı ve esnek bir moderasyon süreci ortaya çıkıyor. Ayrıca gerçek zamanlı işleme kabiliyeti, trilyonlarca mesaj ve gönderi barındıran platformlarda sistem yükünü azaltıyor.
Bu gelişme, Türkiye'deki sosyal medya platformları ve kullanıcıları açısından da dolaylı bir etki yaratabilir. Çünkü uluslararası platformlar, daha verimli moderasyon araçları kullanarak yerel politika ve düzeltmeleri daha çabuk uygulamaya geçebilecek. Bu durum, içerik yönetimi konusunda platformların yanıt hızını artırabilir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.