OpenAI, şirket içindeki yapısal bir değişiklikle güvenlik sistemleri ekibini araştırma birimiyle tek bir çatı altında topladı. Wired tarafından aktarılan bilgilere göre, güvenlik sistemleri başkanı Johannes Heidecke bu yeniden yapılanma sürecinin ardından şirketten ayrıldı.

Yeni yapılanma kapsamında, güvenlik ekiplerinin yönetimi Mia Glaese'e devredildi. Glaese, şirket bünyesinde yeni oluşturulan Araştırma ve Güvenlik Başkan Yardımcısı görevini üstlendi. Johannes Heidecke'nin yerine kalıcı bir isim bulunana kadar geçici olarak Saachi Jain görevlendirildi.

Güvenlik Süreçlerinde Model Entegrasyonu Hedefi

Şirketin Araştırma Başkanı Mark Chen, çalışanlara gönderdiği notta güvenlik çalışmalarının öncü model geliştirme süreçlerine entegre edilmesinin kritik olduğunu belirtti. Chen, bu sayede güvenlik ekibinin, ürün ve lansman kararlarının şekillendirilmesinde daha erken ve doğrudan bir rol oynamasını hedeflediklerini açıkladı.

Ancak bu karar bazı eleştirileri de beraberinde getirdi. Güvenlik ekibinin araştırma birimine bağlanmasının, yapısal bağımsızlığı azalttığı ve ürünlerin piyasaya çıkışını engelleme veya geciktirme gücünü zayıflattığı savunuluyor.

Üst Düzey Ayrılıklar ve Organizasyonel Değişimler

OpenAI, son iki yıl içinde güvenlik odaklı birçok ekibi dağıttı ve üst düzey isimlerle yollarını ayırdı. 2023'te kurulan ve işlem gücünün yüzde 20'sini kullanacağı taahhüt edilen Süperhizalama (Superalignment) ekibi, Ilya Sutskever ve Jan Leike'in ayrılışıyla Mayıs 2024'te feshedildi. Ardından Ekim 2024'te Miles Brundage'in istifasıyla AGI Hazırlık ekibi, Şubat 2026'da ise Joshua Achiam'ın görevinin değişmesiyle Görev Hizalama ekibi dağıtıldı.

Ayrıca şirket, Nisan ayında ürün şefi, Sora birimi başkanı ve kurumsal CTO'sunu aynı gün kaybetti. Son olarak Uygulamalar Başkanı Fidji Simo, sağlık sorunları nedeniyle görevinden ayrıldı. Şirket, dış araştırmacıların bağımsız çalışmalar yürütebileceği bir Güvenlik Bursu programını 6 Nisan tarihinde başlatarak güvenlik konusundaki önceliklerini korumaya çalıştığını gösterdi.

Ne anlama geliyor?

Yapay zeka geliştirme süreçlerinde güvenlik, modellerin istenmeyen davranışlar sergilemesini engellemek ve insan değerleriyle uyumlu çalışmasını sağlamak için kullanılır. Normalde bu süreçler, ürün tamamlandıktan sonra yapılan son kontroller şeklinde işler. Ancak güvenlik mekanizmalarının doğrudan araştırma aşamasına dahil edilmesi, risklerin daha yazılım geliştirilirken tespit edilmesini amaçlayan bir yöntemdir.

Sektörel açıdan bu durum, denetleyici mekanizmaların geliştirme ekibiyle aynı yönetime bağlanması anlamına gelir. Bu yapı, geliştirme hızını artırırken, güvenlik onaylarının ürün çıkış tarihlerine göre esnetilme riskini beraberinde getirir. Kullanıcılar için ise bu durum, yeni özelliklerin daha hızlı sunulması ancak güvenlik testlerinin bağımsız bir onay mekanizmasından geçmek yerine dahili süreçlerle yönetilmesi sonucunu doğurur.