OpenAI, yeni Astra modelinde "recurrent depth" ya da "opaque recurrence" olarak adlandırılan bir akıl yürütme tekniği kullandığını duyurdu. Bu yöntem, modelin düşünce zincirini lineer bir sıradan çıkarıp aynı sorguyu döngü içinde birden fazla kez işlemeye yönlendiriyor.

Teknik detaylar

Opaque recurrence, modelin düşünce adımlarını daha az okunabilir hâle getirerek geleneksel zincir‑takibi kaydının izlenmesini zorlaştırıyor. Şirket, bu tekniğin kullanımının sınırlı olduğunu ve düşünce zincirinin hâlâ anlaşılabilir kalacağını belirtiyor.

Güvenlik uzmanlarının tepkisi

Redwood CEO'su Buck Shlegeris, teknikle ilgili endişelerini dile getirerek, daha fazla tekrar uygulanırsa zincir‑takibi izlenebilirliğinin tamamen ortadan kalkabileceğini savundu. Uzun süredir güvenlik savunucusu olan Zvi Mowshowitz ise, bu tür yöntemlerin bir "aşağı yarış"a yol açabileceği ve yasal düzenlemelere ihtiyaç duyulabileceği görüşünü paylaştı.

Ne anlama geliyor?

Bu tür bir akıl yürütme yöntemi, modelin aynı soruyu birden fazla kez işleyerek sonuç üretmesini sağlar; bu süreçte ara adımların kaydı azalır. İzlenebilirliğin azalması, modelin hatalı ya da istenmeyen davranışlarını tespit etmeyi zorlaştırabilir. Şirket, bu riskleri dengelemek amacıyla zincir‑takibi izleme sistemlerini güçlendirmeyi planlıyor.