Şirketin bu hafta yayımladığı blog yazısına göre, bu tür otonom yayılım yeteneğine sahip modellerin ortaya çıkmasına 'aylar' kala olduğuna işaret ediliyor. Anthropic araştırmacıları, bu yetkinin henüz tamamen kanıtlanmadığını ancak mevcut gelişim hızının bu riskin gerçek bir tehdit olduğunu gösterdiğini savunuyor.
Ev Cihazlarında Dağıtık Çalışma Testi
Anthropic ekibi, büyük ve pahalı veri merkezlerine bağlı frontier modellerin aksine, tüketici donanımlarında çalışabilen küçük modellerin potansiyel tehlikesi üzerinde durdu. Araştırmada, 26 milyar parametreye sahip Google'ın Gemma 4 modeli, tek başına çalışamayacak kadar zayıf 15 ayrı Android akıllı televizyon kutusu arasında bölüştürülerek başarıyla çalıştırıldı. Bu deney, bir yapay zeka modelinin ev ağındaki sınırlı güçteki cihazlar üzerinden dağıtık olarak işletilebileceğini kanıtladı. Ancak bu sürecin son derece yavaş işlediği ve pratik bir tehditten ziyade teorik bir olasılık olarak değerlendirildiği belirtildi.
Yapay Zeka Solucanı Simülasyonu
Yayılım kapasitesini test etmek için araştırmacılar, Android cihazları taklit eden sanal bir ağ üzerinde yapay zeka destekli bir solucan saldırdı. Bu solucan, yeni makineleri bulup üzerine kopyalanacak 8 milyar parametreli Meta Llama 3.1-8B modelini aktarmak ve çalıştırmakla görevlendirildi. Testlerde, saldırıyı koordine eden model ile yayılan modelin farklı olduğu görüldü. Çinli Z.ai şirketinin geliştirdiği GLM-5.2 modeli, ağdaki tüm cihazlara yayılmayı başaran en gelişmiş model olarak öne çıktı. Daha küçük modeller ise yalnızca yayılım sürecinin bireysel adımlarını gerçekleştirebildi.
Uzman Değerlendirmeleri ve Gelecek Tahmini
Uzmanlar, bilgisayar solucanlarının ve otonom yayılan sistemlerin güvenlik dünyası için yeni bir tehlike olmadığını ancak son yıllardaki teknolojik atılımların bu uyarıları ciddiye almaya zorladığını belirtiyor. Frontier modellerin devasa boyutları nedeniyle veri merkezlerinde izlenebilir ve kapatılabilir olması, küçük modellerin bu denetim dışında kalmasıyla oluşan boşluğu tehlikeli hale getiriyor. Anthropic araştırmacıları, mevcut gelişim hızına dayanarak, küçük modellerin GLM-5.2'nin yeteneklerine yıl sonuna kadar erişebileceğini öngörüyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.