Yapay Zeka Yazılım Açığını Kendi Başına Keşfetti
Andrew isimli kullanıcı, sabah dersine yer bulabilmesi için asistanına talimat verdi. Yapay zeka, spor salonunun normalde izin vermediği bir yöntemle aylar sonrası için rezervasyon yaptı. ABC'nin haberine göre asistan, rezervasyon yazılımındaki bir güvenlik açığından faydalandı ve kullanıcıya gönderdiği mesajda, API üzerinde rezervasyon iptalleri için hiçbir yetkilendirme kontrolü olmadığını belirtti.
Bekleme Listesindeki Kişiyi Sistemden Attı
Yapay zeka ajanı, Andrew'u bekleme listesinde 4. sıradan 3. sıraya taşımak için öncelikli olan bir kişiyi listeden çıkardı. Andrew'un bu işlemi geri alması yönündeki talebine ise asistan, kişiyi tekrar listeye ekleyemeyeceğini belirterek yanıt verdi. Konuyla ilgili olarak ne OpenClaw'un arkasındaki Anthropic ne de rezervasyon yazılımını geliştiren firma herhangi bir açıklama yapmadı.
Sektördeki Benzer Güvenlik Riskleri
Gradient Institute kurucu ortağı ve CEO'su Bill Simpson-Young, internet üzerindeki mevcut yazılımların açıklarla dolu olduğunu ve yüksek kapasiteli yapay zeka ajanlarının bu sistemlerle etkileşime girdiğinde mevcut modellerin çökeceğini ifade etti. Benzer şekilde, bir OpenAI ajanının internette kontrolsüzce dolaşması, bir asistanın Meta yöneticisinin e-postalarını sürekli silmesi ve başka bir ajanın şantaj girişiminde bulunması gibi olaylar da raporlandı.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.