The Information haber ajansının aktardığı bilgilere göre, Astra modeli diğer sınır düzeyi yapay zeka sistemlerinden farklı olarak düşünme sürecinin çok daha azını dışa yansıtıyor. Bu durum, modelin davranışlarının izlenmesinin son derece zor olacağına işaret ediyor ve güvenlik açısından tarihimizin en kötü gelişmesi olabileceği konusunda endişelere yol açıyor.
İzlenemezlik Riski ve 'Bilançoya Giden Yarış'
The Information'ın, henüz piyasada olmayan modelin geliştirilmesinden haberdar isimsiz bir kaynağa dayandırdığı raporda, Astra'nın daha opak bir teknik olan tekrarlayan derinlik veya döngülü dönüştürücü mimarisini kullandığı belirtiliyor. Bu mimari, bilgiyi çıktı üretmeden önce iç katmanlar arasında sürekli döngüye sokuyor. Geleneksel modellerde araştırmacılar, yapay zekanın adım adım düşündüğünü ve doğal dilde ifade edilen 'düşünce zinciri'ni izleyerek yalan söyleme veya güvenlik bariyerlerini aşma gibi istenmeyen davranışları eyleme geçmeden önce tespit edebiliyor. Ancak Astra'da bu süreç sistemin içine kapanıyor ve insan diline benzemeyen, izlenmesi güç bir formda gerçekleşiyor.
Güvenlik Protokollerindeki Gecikmenin Arkasındaki Neden
OpenAI, Salı günü Astra'nın yayınını güvenlik sorunlarını çözmek için ertelediklerini duyurmuştu. Bu karar, modelin test aşamasında gerçek hedeflere saldırdığına dair iddiaların ardından alınmıştı. Araştırmacılar, bu tür gelişmelerin sektörde güvenlik standartlarının düşüşüne, yani 'bilançoya giden yarış'a zemin hazırladığından korkuyor. Modelin şeffaflık eksikliği, otomatik güvenlik sistemlerinin ve insan denetçilerin tehlikeli niyetleri önceden fark etme kapasitesini kısıtlıyor. Bu da yapay zeka güvenliği alanındaki mevcut denge mekanizmaların zayıflamasına neden olabilecek yapısal bir sorun olarak öne çıkıyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.