Yapay zeka öncüsü OpenAI, modellerin oluşturabileceği ciddi riskleri analiz eden ve bu tehlikeleri azaltma yöntemleri geliştiren hazırlık ekibini geçtiğimiz ayın sonunda feshetti. Financial Times tarafından aktarılan bilgilere göre şirket, güvenlik ekiplerinde radikal değişiklikler yapmaya devam ediyor.

Güvenlik Sorumlulukları Yeni Yapıya Devredildi

Dağıtılan ekibin temel görevi, yapay zeka modellerinin başka şirketleri hacklemesi veya kontrol dışına çıkması gibi tehlikeli senaryoları değerlendirmekti. Mevcut yapılandırma ile bu sorumluluklar tamamen ortadan kaldırılmadı; biyolojik ve siber güvenlik gibi spesifik alanlara bölünerek mevcut diğer ekiplerin bünyesine dahil edildi.

Şirkette Devam Eden İstifalar ve Yapısal Değişimler

OpenAI bünyesinde son dönemde ciddi bir değişim süreci yaşanıyor. Daha önce AGI hazırlık ve süper hizalama ekipleri kapatılırken; etik sorumlusu Chloé Bakalar, Baş Fütürist Josh Achiam ve güvenlik sorumlusu Johannes Heidecke şirketten ayrıldı. 2024 yılında istifa eden Jan Leike, şirketin güvenlikten ziyade gösterişli ürünler geliştirmeye odaklandığını savunan isimler arasında yer alıyor.

Hazırlık ekibinin başında bulunan ve Şubat ayında Anthropic şirketinden transfer edilen Dylan Scandinaro ise bundan sonraki süreçte kendi kendini geliştiren yapay zekanın etkileri üzerine yoğunlaşacak.

Ne anlama geliyor?

Yapay zeka geliştirme süreçlerinde güvenlik denetimleri, modellerin beklenmedik davranışlar sergilemesini önlemek için kullanılan teknik filtreler ve test mekanizmalarıdır. Bu süreçler, sistemin verilen komutların dışına çıkmasını engellemek ve dijital altyapılara zarar verebilecek yetenekler kazanmasını önlemek amacıyla yürütülür.

Sektördeki bu tür yapısal değişiklikler, güvenlik kontrol mekanizmalarının merkezi bir ekipten alınıp doğrudan geliştirme aşamasına entegre edilmesi anlamına gelir. Bu durum, teknik kontrollerin daha spesifik alanlara bölünerek uygulanmasını sağlar ve geliştirme hızını artırmayı hedefler. Kullanıcılar için bu durum, hizmet sunulan araçların güvenlik protokollerinin yönetim biçiminin değişmesi anlamına gelmektedir.