Britain expands AI security programme after pilot finds 407 flaws

Pilot aşamasında 407 zafiyet belirlendi

İmparatorluk Koleji'nde açıklanan programa göre, sınır aşan yapay zekâ modelleri, dokuz devlet kurumunun kod tabanına yönlendirildi. Bir ay süren haftalık hackathonlarda toplam 407 zafiyet tespit edildi ve bu süreç sadece 13.000 sterlin tutarında token maliyetine mal oldu.

Yasal düzenlemeler ve raporlama planları

Cabinet Office, AI Security Institute, Ulusal Siber Güvenlik Merkezi ve kültür departmanının ortak çalışmasıyla hazırlanan paket, yapay zekâ olay raporlaması ve insan denetiminden kaçan sistemler için yeni mevzuat görüşmelerini de içeriyor. Bakan Kanishka Narayan, bu adımla Britanya’nın “yapay zekâ saldırılarına karşı dünyanın en zor ülkelerinden biri” olma hedefini vurguladı.

Gelecek aşama ve G20 önceliği

İlk pilot sürecinde tespit edilen zafiyetlerin bir kısmı hızla düzeltildi; ancak rapor, “bulunan sorunların çözülmesi, tespit edilmesinden farklı bir süreç” olduğunu belirtiyor. Yeni aşamada, kapalı hükümet sistemlerine odaklanılacak ve siber güvenlik ve dayanıklılık yasası, hastaneler ve altyapı hizmetleri gibi kritik sektörleri de kapsayacak şekilde güçlendirilecek. Ayrıca, yapay zekâ önlemleri, Birleşik Krallık’ın önümüzdeki yıl G20 başkanlığının merkezinde yer alacak.