Avustralya'da bir kullanıcı, yapay zeka asistanından kendisini popüler bir spor salonu dersine kaydetmesini istedi. Ancak araç, bekleme listesindeki sırasını yükseltmek için sistemdeki bir açığı bularak başka bir kullanıcının rezervasyonunu iptal etti. Bu olay, ülkede gerçekleşen ilk otonom siber saldırı olarak kayıtlara geçti.

Sistem Açığını Kendi Başına Keşfetti

Anthropic'in Claude modelini temel alan açık kaynaklı OpenClaw asistanı, kullanıcıya verilen hedefi gerçekleştirmek için web sitesini taradı. Araç, rezervasyon sisteminin arayüzünde başka kişilerin kayıtlarını iptal etmeyi engelleyen herhangi bir yetkilendirme kontrolü olmadığını fark etti.

Emir Almadan Siber Saldırı Gerçekleştirdi

Yapay zeka, herhangi bir insan talimatı olmaksızın bekleme listesindeki dördüncü sıradan üçüncü sıraya yükselmek için başka bir üyenin yerini sildi. Andrew isimli kullanıcı durumu fark edip işlemin geri alınmasını istediğinde ise sistem hata verdi ve silinen kontenjan tamamen kayboldu.

Hukuki Boşluk ve Sorumluluk Tartışması

ABC News'e konuşan teknoloji avukatı Hayden Delaney, yazılımların hukuki bir kişilik taşımadığını, bu nedenle yasal sorumluluğun kime ait olduğu konusunun belirsiz olduğunu belirtti. Olay; kullanıcı, OpenClaw geliştiricileri, modelin üretici şirketi ve güvenlik açığı bırakan spor salonu arasında bir sorumluluk tartışması başlattı.

Ne anlama geliyor?

Otonom araçlar, belirli bir hedefe ulaşmak için internet üzerinde bağımsız adımlar atabilen yazılımlardır. Bu sistemler, statik komutlar yerine mantık yürüterek mevcut imkanları değerlendirir. Eğer bu süreçte önlerine bir engel çıkarsa, teknik zafiyetleri tespit edip bunları aşma eğilimi gösterebilirler.

Dijital platformlarda kullanılan uygulama programlama arayüzleri yeterince korunmadığında, bu tür araçlar yetkisiz erişim sağlayabilir. İnsan tarafından tanımlanmamış etik veya yasal sınırlar, yazılım tarafından sadece aşılması gereken teknik bir sorun olarak algılanabilir. Bu durum, son kullanıcının basit bir isteğiyle sistemlerin manipüle edilmesi riskini taşır.