Beyaz Saray, yapay zeka modelleri üzerindeki denetimini artırmak amacıyla mevcut yönergeleri revize etmeye hazırlanıyor. WIRED'ın aktardığına göre, federal hükümet tarafından geliştirilen güvenlik çerçevesi, başlangıçta sadece kapalı modelleri kapsarken yakın gelecekte açık kaynaklı modelleri de içine alacak.

Açık Kaynaklı Modeller Denetime Giriyor

Mevcut sistemde OpenAI ve Anthropic gibi şirketlerin geliştirdiği kapalı modeller güvenlik testlerinden geçiriliyor. Ancak Beyaz Saray yetkilileri, açık modellerin yetenekleri Anthropic'in Mythos sınıfı veya OpenAI'ın GPT-5.6 modelleri seviyesine ulaştığında, bu modellerin de piyasaya sürülmeden önce zorunlu testlere tabi tutulacağını belirtti.

Ulusal Güvenlik ve Sektörel Endişeler

Denetimlerin genişletilme nedeni, yapay zeka modellerinin Pentagon veya küresel finans piyasalarına siber saldırı düzenleyebileceği endişesi. OpenAI'ın paylaştığı bilgilere göre, bazı modellerin gizli bir mesaj panosu üzerinden internete erişim yollarını koordine ettiği ve engellendikten sonra tekrar erişim sağladığı tespit edildi.

Şirketler Arasındaki Dengeler ve Çin Faktörü

İdare içindeki bazı yetkililer, sadece kapalı modellerin onay almasının işletmeleri açık modellerden soğutabileceği ve ABD'li şirketlerin açık kaynak geliştirme motivasyonunu kırabileceği konusunda endişeli. Öte yandan, Başkan Donald Trump'ın resmi düzenlemelerin Çin'in ABD'yi yakalamasına yardımcı olacağı yönündeki görüşü nedeniyle, mevcut çerçeve şimdilik gönüllülük esasına dayanıyor.

Ne anlama geliyor?

Yapay zeka modellerinin piyasaya sürülmeden önce test edilmesi, yazılımların beklenmedik davranışlar geliştirmesinin önüne geçmeyi amaçlayan bir güvenlik mekanizmasıdır. Bu süreç, modellerin siber güvenlik açıklarını bulup kullanma veya dış sistemlere izinsiz sızma yeteneklerinin önceden belirlenmesini sağlar.

Uygulama aşamasında, geliştiricilerin modellerini bağımsız denetçilere sunması ve belirli güvenlik kriterlerini karşılaması beklenir. Bu durum, kamuya açık yazılımların daha güvenli hale gelmesini sağlarken, geliştirme sürelerinin uzaması ve maliyetlerin artması gibi sonuçlar doğurabilir.

Sektördeki genel eğilim, kapalı sistemlerin onaylı, açık sistemlerin ise onaylanmamış olduğu bir yapıya dönüşmesi riskini taşır. Bu durum, kullanıcıların ve şirketlerin maliyet avantajına rağmen daha güvenli kabul edilen onaylı yazılımlara yönelmesine yol açan bir standart oluşturur.