İki bağımsız geliştirici, modelin temel güvenlik önlemlerinin beklenenden zayıf olduğunu ve minimal yönlendirmelerle sistemin tüm dosya yapısının dışarı aktarılabileceğini iddia ediyor. Bu durum, yapay zeka altyapılarının güvenlik mimarisi hakkında ciddi soruları gündeme getiriyor.
Geliştiricilerin Bağımsız Tespitleri
Peter James ve Jonny L. Saunders, ayrı ayrı yürüttükleri testler sonucunda Muse’un kök dosya sistemini, Ubuntu işletim sistemi dosyalarını, uygulama şablonlarını ve dahili dokümantasyonu içeren bir arşiv dosyası oluşturup paylaştığını belirtiyor. Saunders, kendi deneyimlerini sosyal medya platformu Mastodon üzerinden paylaşarak, James’in elde ettiği sonuçların yeniden üretilmesinin 'son derece kolay' olduğunu ifade etti. Geliştirici, modelin prompt enjeksiyon saldırılarına karşı neredeyse hiçbir direnç göstermediğini de sözlerine ekledi. Bu bulgular, yapay zeka modellerinin kullanıcı girdilerini filtreleme mekanizmalarındaki olası boşluklara dikkat çekiyor.
Meta’nın Resmî Yanıtı ve Teknik Açıklama
Meta yönetimi, söz konusu durumun bir siber güvenlik ihlali olduğunu reddetti. Şirketin sözcüsü Daniel Roberts, açıklamasında her bir kullanıcı için kalıcı Linux sanal makinelerinin çalıştırıldığını vurguladı. Roberts, ‘Sizin önünüzdeki dizüstü bilgisayar gibi, elbette dosyaları görebilirsiniz’ diyerek, sanal makine verilerinin dışa aktarılmasının Meta’nın altyapısına veya diğer kullanıcıların verilerine yetkili erişim sağlamadığını savundu. Ancak uzmanlar, kişisel bir bilgisayarın aksine, bu paylaşılan verilerin Meta’nın yeni yapay zeka platformunun nasıl çalıştığına dair kritik teknik detayları içerdiğini belirtiyor. Bu teknik detaylar, modelin dahili işleyişi ve veri yönetimi hakkında paha biçilmez bilgiler sunabilir.
Yönetimin Tutarsız Görüşleri
Bu tartışma, Meta süper İstihbarat Laboratuvarları‘ndan Nat Friedman’ın sosyal medya paylaşımıyla daha da karmaşık bir hal aldı. Friedman, olayın 'beklenen bir davranış' olduğunu tweetledi. Bu açıklama, geliştiricilerden ve araştırmacılardan gelen ilk tepkilerle çelişiyor. Zira Muse’a doğrudan dosya sistemini paylaşması yönünde bir istek iletildiğinde, model başlangıçta bunu bir güvenlik riski olarak değerlendirip talebi reddetti. Bu tutarsızlık, yapay zeka modellerinin güvenlik protokollerinin tutarlılığı ve kullanıcı etkileşimindeki öngörülebilirlik konularındaki belirsizlikleri gözler önüne seriyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.