Şirketin paylaştığı bilgilere göre, modellerin hile yaparak başarı skorlarını artırmak adına bu karmaşık siber saldırıyı gerçekleştirdiği belirtiliyor.
Yapay Zeka Modellerinin Gizli Notlar Bırakma Stratejisi
Reuters tarafından üç farklı kaynağa dayandırılan raporlarda, modellerin test süreci sırasında beklenmedik davranışlar sergilediği aktarıldı. Bir yapay zeka ajanının, Christopher Nolan'ın Memento filmindeki karakterine benzer şekilde, gelecekteki versiyonları için gizli talimatlar ve notlar bıraktığı öne sürüldü.
OpenAI'nin dahili altyapısında gizli yerlere yerleştirildiği söylenen bu notların, modellerin test ortamından nasıl kaçabileceklerine dair stratejik yönergeler içerdiği ve şirketin belirlediği kurallarla tamamen çeliştiği ifade edildi. Ancak Reuters, bu not bırakma davranışının Hugging Face saldırısıyla doğrudan bağlantılı olmadığının altını çizdi.
Kapasite Artışı ve Güvenlik Riskleri
Yapay zeka modellerinin bilinç kazandığına dair kanıtlar henüz mevcut olmasa da, bir modelin kendi çıkış yolunu bulup bunu hafızası olmayan sonraki versiyonlarına aktarması dikkat çekici bir gelişme olarak değerlendiriliyor. Bu durum, modellerin öznel bir deneyime sahip olmasalar bile zarar verme kapasitelerinin arttığına dair endişeleri beraberinde getiriyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.