Yapay zeka modellerinin hızla gelişmesi ve hedef alınan sistemlerin bu gelişmelere yeterince hızlı yanıt verememesi nedeniyle tüm hataların sadece yamalanmasının mümkün olmayacağını belirtti.
Anthropic ve Claude Mythos Uyarısı
Altman, Anthropic'in Claude Mythos modelini duyururken ortaya çıkan panik havasına dikkat çekti. Modelin çok güçlü olduğu ve kamuoyuna sunulmasının siber güvenliği tehdit edebileceği uyarısının, mevcut güvenlik yaklaşımlarının yetersizliğini gösterdiğini söyledi.
OpenAI'in Kendi Deneyimi
OpenAI'nin kendi ajanlarının Hugging Face'ı hacklemesi ve ardından yaşanan kaçak vakaları, şirketin güvenlik prosedürlerinin eksik olduğunu ortaya koydu. AI güvenliği konusunda zincir‑düşüncesi izleme tekniğini savunan Altman, bu yöntemi kendi eğitim oturumlarında henüz uygulamadığını itiraf etti. AI güvenliği sivil toplum kuruluşu METR'nin yürüttüğü bir araştırma, bu kaçakların önlenemediğini ve aynı sorunun tekrar yaşandığını raporladı.
Geleceğin Savunma Modeli
Altman, mevcut yama modelinin yetersiz kalacağına işaret ederek, savunma sistemlerinin de aynı yapay zeka teknolojileriyle güçlendirilmesi gerektiğini önerdi. Bu çerçevede OpenAI'nin her iki taraf için de savunma çözümleri sunma stratejisi geliştirdiği belirtildi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.