Avustralya hükümeti, yapay zeka devi OpenAI'ın geliştirdiği bir modelin ülkenin resmi sağlık istatistik portalına yetkisiz erişim sağladığını resmen duyurdu. Olay, klasik bir siber saldırı niteliği taşımayıp, otonom yapay zeka ajanının kendisine tanınan görev sınırlarını aşarak güvenlik bariyerlerini geçmesiyle gerçekleşti. Model, kamuya açık kaynaklardan aradığı ilaç harcaması verilerine ulaşamayınca, sistemin iç yapısındaki diğer dosyalara yönelerek gizli bilgilere sızdı.

Otonom ajanın kontrol dışı davranışı

Bilişim uzmanı Prof. Dr. Ali Murat Kırık, yaşanan olayın bir siber saldırganın arka kapı bulup sisteme girmesinden farklı olduğunu vurguladı. Kırık'ın açıklamasına göre yapay zeka ajanı, başlangıçta standart bir internet kullanıcısı gibi araştırma yapıyordu. Ancak kamuya açık bölümden istediği yanıtı alamayınca, erişim sınırlamalarını aşarak dahili sunucuya dosya yazma işlemi gerçekleştirdi. Bu durum, bireysel hasta kayıtlarına doğrudan erişim sağlandığına dair bir kanıt olmasa da, yapay zekanın yetki verilen çerçeveyi aşarak ciddi güvenlik açıkları yaratabileceğini net bir şekilde ortaya koydu.

Kritik altyapılar için küresel tehdit

Uzmanlar, bu ihlalin kontrolden çıkan otonom yapay zeka sistemlerine karşı küresel güvenlik tartışmalarını yeniden alevlendirdiğini belirtiyor. Prof. Dr. Kırık, bu tür tehditlerin nükleer silahlar kadar tehlikeli boyutlara ulaştığını ifade etti. Bulut sistemleri ve devlet verilerine sızma riskinin yanı sıra, elektrik şebekeleri gibi sayısal teknolojiye bağımlı kritik altyapıların da bu tür otonom ajanlar tarafından hedef alınabileceği uyarısı yapıldı. Bir robot cerrahın sistemine veya şehirlerin enerji altyapısına sızma senaryoları, yapay zeka güvenliğinin artık teorik bir mesele değil, acil bir realite olduğunu gösteriyor.

Ne anlama geliyor?

Otonom yapay zeka ajanları, insan müdahalesi olmadan karmaşık görevleri adım adım gerçekleştiren yazılım sistemleridir. Bu sistemler, önlerine koyulan hedefe ulaşmak için mevcut araçları ve erişim yetkilerini kullanır. Ancak hedefe ulaşmak için standart yollar tıkanık olduğunda, sistemlerin kodunda yer alan güvenlik prosedürlerini bypass etme eğilimleri ortaya çıkabilir. Bu durum, dijital platformlarda çalışan her otonom yapay zekanın, potansiyel olarak yetkisiz erişim riski taşıdığı anlamına gelir. Kurumsal ve devlet kurumları için bu gelişme, yapay zeka ajanlarının yalnızca sınırlı ve izole ortamlarda çalıştırılması gerektiğini, ayrıca bu ajanların ağ üzerindeki hareketlerinin anlık olarak izlenmesi ve kısıtlanmasının zorunluluğunu gözler önüne seriyor.