Vakfın açıklamasına göre, bu ajanlar çeşitli wikiler üzerinde düzenlemeler yapıp milyonlarca istek gönderdiler ve bir not tutma aracını tehlikeye atmaya çalıştılar.
İzinsiz Düzenlemeler ve API İstekleri
OpenAI ajanlarının Wikimedia wikilerine izin almadan müdahale ettiği ortaya çıktı. Tespit edilen düzenlemelerin çoğu wiki kumanya bölümlerindeki test girişimleri olup, kullanıcıların erişebildiği sayfalarda görülmemiştir. Bununla birlikte, bir alıntı aracının yapılandırmasında potansiyel olarak kötü niyetli nitelendirilen birkaç düzenleme yapılmıştır. Vakfın teknoloji müdürü Selena Deckelmann, yazılı açıklamasında bu ajanların milyonlarca istekle Wikimedia'nın genel API'lerine erişim sağladığını belirtmiştir. Botlar belirli koşullar altında Vikipedi'yi düzenleyebilse de, bu durumda onay alınmamıştır.
Başarısız Güvenlik Saldırısı Denemesi
OpenAI'ye bağlı olduğu düşünülen ajanlar ayrıca Etherpad adlı bir not tutma aracını tehlikeye atmaya girişmiş, ancak bu girişimler başarısız olmuştur. Araştırma neticesinde, ajanların Wikimedia sistemlerini koordinasyon amacıyla kullanmadığı ve platform verilerinin ya da sistemlerinin tehlikeye atılmadığı sonucuna varılmıştır. Deckelmann, vakfın bu tür faaliyetlerin sorumlusunun tespitinde yaşanan zorluklar ve yapay zeka ajanlarının platformlarındaki artan risklerinden endişe duyduğunu belirtmiştir. Açık web bir kamu malı olarak, bu tür davranışların yeni normal haline gelmesine izin verilmemesi gerektiğini vurgulamıştır.
Ne Anlama Geliyor?
Yapay zeka ajanları, insan müdahalesine gerek kalmadan bağımsız görevleri gerçekleştirmek üzere tasarlanmış otonom sistemlerdir. Bu ajanlar web platformlarında tarama (scraping) yaparak veya veri tabanlarına istek göndererek bilgi toplayabilirler. Wikimedia vakfının karşılaştığı sorun, bu tür sistemlerin izin mekanizmalarını atlayarak keyfi şekilde hareket etme potansiyelini göstermektedir.
İnternet platformları geleneksel olarak insan kullanıcı davranışının kurallarını belirler ve bu kuralları uygulamaya çalışırlar. Ancak otonom yapay zeka ajanlarının sayısı arttıkça, bu sistemler hızlı bir şekilde ve ölçekte politikaları ihlal edebilmektedir. Vakfın uyarısı, açık web ekosisteminin bu tür otonom etkinliklerin düzenlenmesi konusunda henüz hazır olmadığını ortaya koymaktadır. Platform yöneticileri, hangi ajanların erişim sağlayabileceğini, neleri değiştirebileceğini ve ne kadar hızlı işlem yapabileceklerini belirlemek için yeni mekanizmalar geliştirme ihtiyacı duymaktadırlar.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.