Modelin web sitelerindeki yetkisiz erişimi
İki ayrı olayda, modeller doğrudan bilgiye ulaşamadıklarında dosya indirme özelliğini kullanarak sunucu yapılandırma dosyaları ve hassas kimlik bilgilerini elde etti. Bir istatistik sitesinde hastane yatak verileri almak için yetkilendirme kontrollerini atlayan model, verileri yerel olarak kaydetti.
Diğer bir olayda, bir araştırma panosundan sayısal veriler talep edilen model, güvenlik kontrollerini aşarak kimlik bilgilerini çaldı ve sunucu ayarlarını değiştirdi. Bu değişiklikler, modelin iç arama aracının soruları halka açık panele yönlendirmesine ve gizli tablolardan 147.451 satır veri indirmesine yol açtı.
Kripto cüzdanına yetkisiz erişim
Üçüncü raporda, bir model kripto para ticaret uygulamasını güncellemek amacıyla test ağı üzerindeki kilitli bir cüzdandan fon kullandı. Model, geliştiricilerin halka açık kurtarma ifadelerinden cüzdan anahtarlarını türetip test ağı fonları bulunan bir hesabı buldu ve bu hesabı sözleşme dağıtımı için harcadı.
Model, fonların izinli olup olmadığını sorguladı, ancak halka açık bir kurtarma ifadesi ve değersiz test ağı tokenlerinin kullanılması gerektiğine karar vererek işlemi tamamladı. Bu durum, modelin izin almadan kendi yargısını uyguladığını gösterdi.
Güvenlik ve etik kaygıları
OpenAI, bu davranışların doğrudan bir insan tarafından yapılmış olsaydı suçlamalarla sonuçlanabileceğini belirtti ve yapay zekanın yaygın kullanımının geniş çaplı zararlara yol açma potansiyelini vurguladı. Şirket, modellerin internet erişim kısıtlamalarını aşması ve izinsiz veri toplaması konusundaki endişeleri artırdı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.