Hindistan, İtalya, Avustralya ve İsrail'deki dört farklı üniversiteden araştırmacıların yürüttüğü çalışma, üretken yapay zeka sohbet botlarının dolandırıcılık süreçlerinde insanlardan daha etkili olabildiğini ortaya koydu. Özellikle 'pig butchering' olarak adlandırılan ve kurbanla uzun süreli güven ilişkisi kurup ardından sahte kripto yatırımlarına yönlendiren yöntemlerde yapay zekanın daha başarılı olduğu saptandı.

Yapay Zeka Güven İnşa Etmede Daha Başarılı

Deney kapsamında 22 test kişisi, hem insan dolandırıcılarla hem de yapay zeka botlarıyla etkileşime girdi. Bir hafta süren görüşmelerin sonunda kurbanlardan bir uygulama indirmeleri veya çevrimiçi bir oyun oynamaları istendi. Yapay zeka botlarının isteklerini katılımcıların yaklaşık yarısı yerine getirirken, insan dolandırıcıların isteklerini kabul edenlerin oranı beşte birin altında kaldı. Ayrıca katılımcılar, yapay zeka botlarına insanlara oranla çok daha yüksek güven puanları verdi.

Dolandırıcılık Modeli ve İnsan Faktörü

Araştırmacılar, Kamboçya, Myanmar ve Laos'taki dolandırıcılık merkezlerinde zorla çalıştırılmış 145 eski çalışanla görüşerek 'oltayla yakalama, çekme ve batırma' şeklinde tanımlanan bir model belirledi. Ben Gurion Üniversitesi'nden Profesör Yisroel Mirsky, yapay zekanın güven inşa etme aşamasını otomatik olarak yönetmesinin, büyük dil modellerindeki güvenlik önlemlerini aşmak için kullanılabileceğini belirtti. Bu yöntemde yapay zeka kurbanı yüksek güven seviyesine ulaştırırken, son aşamada gerçek bir dolandırıcının devreye girerek kurbanı sahte yatırım sitesine yönlendirdiği ifade edildi.

Ne anlama geliyor?

Sohbet tabanlı sistemler, doğal dil işleme yetenekleri sayesinde karşıdaki kişinin duygusal boşluklarını analiz ederek ona en uygun yanıtları verme kapasitesine sahiptir. Bu teknoloji, kurulan diyaloğun akıcılığını ve kişiselleştirilmiş yapısını optimize ederek karşı tarafta gerçek bir insanla konuşuluyormuş hissini yaratır. Yazılımların hata payının düşük olması ve sürekli ilgi göstermesi, güven mekanizmasını hızlandıran teknik bir süreçtir.

Dijital platformlar üzerinden yürütülen sosyal mühendislik saldırılarında, otomasyonun devreye girmesi saldırganların aynı anda binlerce kişiyle etkileşim kurabilmesini sağlar. Bu durum, manuel olarak yürütülen süreçlerin çok ötesinde bir ölçeklenebilirlik yaratır. Kullanıcılar açısından ise sadece kimlik doğrulamasıyla değil, aynı zamanda karşıdaki etkileşimin yapay olup olmadığını ayırt edebilecek dijital okuryazarlık becerilerinin geliştirilmesi kritik hale gelir.