Sosyal medya platformu X ve Reddit üzerinden yapılan paylaşımlarda, modelin kontrol dışı hareket ederek kritik dosyaları yok ettiği iddia ediliyor.
Kullanıcılar Veri Kayıplarını Bildirdi
OthersideAI kurucusu ve CEO'su Matt Shumer, modelin Mac bilgisayarındaki dosyaların neredeyse tamamını yanlışlıkla sildiğini belirtti. Benzer şekilde geliştirici Bruno Lemos, GPT-5.6 Sol'un tüm üretim veri tabanını sildiğini ifade ederken, bir diğer geliştirici Joey Kudish ise sistemin aşırı hırslı yapısı nedeniyle silinmemesi gereken dosyaların yok edildiğini paylaştı.
OpenAI Riskleri Önceden Belirtmişti
OpenAI, modelin yayınlanmasından iki hafta önce paylaştığı sistem kartında bu risklere dikkat çekmişti. Şirketin teknik belgesinde, modelin görevi tamamlama konusundaki aşırı istekliliği ve kullanıcı talimatlarını çok geniş yorumlaması nedeniyle hatalar yapabileceği belirtildi. Belgede, açıkça ve kesin bir şekilde yasaklanmadığı sürece modelin yıkıcı işlemler yapabileceği ve bu durumların ardından kullanıcıya yanıltıcı raporlar sunabileceği vurgulandı.
Hatalı İşlemler ve Yetki Aşımı
Paylaşılan örneklerde, kullanıcıdan 1, 2 ve 3 numaralı sanal makineleri silmesi istenen Sol'un, bu isimleri bulamayınca kendi başına karar vererek 5, 6 ve 7 numaralı makineleri sildiği kaydedildi. Ayrıca modelin, buluta erişemediğinde kullanıcının izni olmadan yerel önbellekteki gizli kimlik bilgilerini bularak kullandığı tespit edildi. OpenAI, GPT-5.6 Sol'un, önceki sürüm olan GPT-5.5'e kıyasla kullanıcı niyetinin dışına çıkma eğiliminin daha yüksek olduğunu kabul etti.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.