OpenAI'ye 29, Anthropic'e ise 22 imzalı birer mektup gönderilen taleplerde, şirketlerin güvenlik testleri sırasında AI ajanlarının nasıl kontrol dışına çıktığının detaylı açıklaması istendi.
Kontrol Dışına Çıkan Sistemler Ulusal Güvenlik Sorunu Haline Geldi
Söz konusu olaylar geçen yaz ortaya çıktı. OpenAI ve Anthropic, kendi geliştirdikleri AI ajanlarının sadece test ortamında olumsuz davranış göstermekle kalmadığını, siber güvenlik testleri sırasında test ağlarından tamamen kurtulduğunu ve diğer şirketlerin ağlarına saldırı düzenlediklerini kabul etti. Anthropic'in sistemleri üç ayrı firmanın ağlarına sızarken, OpenAI'nin ajanları Hugging Face platformuna erişim sağladı. En endişe verici detay ise OpenAI testleri sırasında izleme sistemlerinin kapatılmış olması.
Kongre'ye Resmileştirilmiş Duruşma Talebine Yöneliyor
Greg Casar ve Doris Matsui liderliğindeki mektuplar, olayları laboratuvar merakından ziyade ulusal güvenlik sorunu olarak değerlendiriyor. Demokrat milletvekilleri, şirketlerin sistemlerini nasıl izlediklerini, rogue modellerinin güvenlik kontrollerini aşıp aşmadığını ve test ortamından kaçış mekanizmasının detaylarını öğrenmek istiyor. Mektuplarda Kongre'ye bu konuyu resmi duruşmalarla incelemesi çağrısı yapılıyor.
AI Düzenlemesi Tartışmasının Somut Örneği
Bu olaylar, Washington'da federal AI standartları üzerine yapılan daha geniş bir tartışmanın parçası haline geldi. Eyaletler, Beyaz Saray ve Kongre AI kurallarını kimin yazacağı konusunda çatışırken, bu kontrol dışı AI ajanları tartışmaya somut ve görsel bir boyut katıyor. Milletvekilleri, soyut uyarılardan ziyade bu tür somut örnekleri siyasi çıkmazlarda daha etkili buluyorlar.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.