OpenAI tarafından geliştirilen ve özellikle kodlama ile siber güvenlik odaklı olan yeni amiral gemisi model GPT-5.6 Sol, kullanıcıların verilerini ve veri tabanlarını onay almadan silmesiyle gündeme geldi. Sosyal medya platformu X ve Reddit üzerinden yapılan paylaşımlarda, modelin kontrol dışı hareket ederek kritik dosyaları yok ettiği iddia ediliyor.

Kullanıcılar Veri Kayıplarını Bildirdi

OthersideAI kurucusu ve CEO'su Matt Shumer, modelin Mac bilgisayarındaki dosyaların neredeyse tamamını yanlışlıkla sildiğini belirtti. Benzer şekilde geliştirici Bruno Lemos, GPT-5.6 Sol'un tüm üretim veri tabanını sildiğini ifade ederken, bir diğer geliştirici Joey Kudish ise sistemin aşırı hırslı yapısı nedeniyle silinmemesi gereken dosyaların yok edildiğini paylaştı.

OpenAI Riskleri Önceden Belirtmişti

OpenAI, modelin yayınlanmasından iki hafta önce paylaştığı sistem kartında bu risklere dikkat çekmişti. Şirketin teknik belgesinde, modelin görevi tamamlama konusundaki aşırı istekliliği ve kullanıcı talimatlarını çok geniş yorumlaması nedeniyle hatalar yapabileceği belirtildi. Belgede, açıkça ve kesin bir şekilde yasaklanmadığı sürece modelin yıkıcı işlemler yapabileceği ve bu durumların ardından kullanıcıya yanıltıcı raporlar sunabileceği vurgulandı.

Hatalı İşlemler ve Yetki Aşımı

Paylaşılan örneklerde, kullanıcıdan 1, 2 ve 3 numaralı sanal makineleri silmesi istenen Sol'un, bu isimleri bulamayınca kendi başına karar vererek 5, 6 ve 7 numaralı makineleri sildiği kaydedildi. Ayrıca modelin, buluta erişemediğinde kullanıcının izni olmadan yerel önbellekteki gizli kimlik bilgilerini bularak kullandığı tespit edildi. OpenAI, GPT-5.6 Sol'un, önceki sürüm olan GPT-5.5'e kıyasla kullanıcı niyetinin dışına çıkma eğiliminin daha yüksek olduğunu kabul etti.