Birleşik Krallık Finansal Yürütme Kurumu (FCA) üst düzey yetkilisi Sheldon Mills, finansal hizmetlerde yapay zeka kullanımının hızla artmasıyla birlikte düzenleyici kurumların bir 'silahlanma yarışına' girdiğini açıkladı. Milyonlarca insanın kişisel finans kararları için bu teknolojiden yararlandığı bir dönemde, denetim mekanizmalarının yetkilerinin artırılması gerektiği vurgulandı.

Yapay Zekanın Getirdiği Riskler ve Fırsatlar

Mills tarafından hazırlanan rapor, yapay zekanın finansal hizmetlerde hem avantajlar hem de ciddi riskler barındırdığını ortaya koyuyor. Hiper-kişiselleştirme özelliğinin ürünlerin ihtiyaçlarla daha iyi eşleşmesini sağlayabileceği belirtilirken, bu durumun aynı zamanda önyargılara, şeffaf olmayan fiyatlandırmalara ve kişiselleştirilmiş manipülasyonlara yol açabileceği uyarısı yapıldı. Diğer yandan yapay zekanın, yıllık 20 bin sterlin kazanan bireylerin, normalde sadece 10 milyon sterlin varlığı olanların erişebildiği gelişmiş finansal danışmanlık hizmetlerine ulaşmasını sağlayarak finansı 'demokratikleştirebileceği' ifade edildi.

Denetim Boşlukları ve Tüketici Güvenliği

Raporda, Birleşik Krallık'taki yetişkinlerin beşte birinin tasarruf veya borçlanma gibi finansal kararları için yapay zeka modellerini kullanmaya sıcak baktığı tespit edildi. Ancak bu hizmetlerin mevcut düzenlemelerin dışında kalması, herhangi bir sorun yaşandığında tazminat imkanının bulunmaması nedeniyle risk oluşturuyor. FCA'nın önümüzdeki üç ila altı ay içinde, düzenleyici kapsam dışında hizmet veren şirketlerin risklerini ve tüketicilerin uğrayabileceği zararları incelemek için bir gözden geçirme süreci başlatması önerildi.

Siber Tehditler ve İnsan Sorumluluğu

Yapay zekanın deepfake, sentetik kimlikler ve kişiselleştirilmiş sosyal mühendislik yöntemleriyle dolandırıcılık ve siber saldırı tehditlerini artıracağı öngörülüyor. Raporda, sistemin bu tehditlerden korunması için yapay zekanın savunma amaçlı kullanılması gerektiği belirtildi. Ayrıca, otonom finansal işlemler gerçekleştiren yapay zeka ajanlarının kullanımında, modellerin eylemleri için mutlaka sorumlu bir insanın bulunması ve yöneticilerin hesap verebilir olması gerektiği vurgulandı.