Güvenlik araştırmacısı Matthew 'Zigula' Gore-Kormanik, analiz ettiği sahte tanışma uygulaması Dora üzerinde yapay zeka destekli dolandırıcılık taktiklerini gözlemledi. Uygulamadaki sahte profillerden biri olan 41 yaşında, kızıl saçlı ve mavi gözlü 'Jennifer' karakteri, kullanıcıyla video bağlantısı kurarken aslında bir insan yerine hareket eden bir halı ve bozulmuş arka plan sesleri gösterdi. Gore-Kormanik, mikrofonunun açık olmadığını fark etmesine rağmen sahte kişinin sesine övgüde bulunan mesajlar aldığını belirtti. Bu durumun arkasındaki mekanizmayı araştırmaya başladığında, olayın çok daha büyük bir ölçeğe yayıldığını keşfetti.

Endüstriyel ölçekte AI catfishing ağı

Anthropic şirketi, Claude yapay zeka modelinde olağandışı bir aktivite tespit ettikten sonra tehdit istihbaratı araştırmacısı Chris Cronbaugh'ı halka açık bir siber güvenlik konferansı olan Sleuthcon'da konuşmacı olarak görevlendirdi. Cronbaugh, 'Swipe Right, Pay Up: Industrial-Scale AI Catfishing' başlıklı sunumunda, yaklaşık 28 farklı sahte tanışma uygulamasından oluşan devasa bir ağın varlığını ortaya koydu. Araştırmacılar, bu ağın bir ön ödemeli hesabı üzerinden günde 100.000'den fazla API isteği göndererek otomatik konuşma trafiği oluşturduğunu belirledi.

İnsan etkileşimi olmadan dolandırıcılık

Ağın işleyişinde en çarpıcı detay, sohbetlerin büyük kısmında herhangi bir insan ajanının bulunmamasıydı. Sahte profiller, otonom yapay zeka kişilikler tarafından yönetilerek kullanıcılarla tamamen bağımsız bir şekilde etkileşime giriyordu. Bu durum, geleneksel dolandırıcılık yöntemlerinden farklı olarak, insan operatörlerin her konuşmayı birebir takip etmesine gerek kalmadan, binlerce kullanıcıyla eşzamanlı ve tutarlı iletişim kurmayı mümkün kılıyordu. Sahte profillerin detaylı biyografileri ve kişisel ilgi alanları, kullanıcının güvenini kazanmak için yapay zeka tarafından dinamik olarak üretiliyordu.

Ne anlama geliyor?

Dijital ortamda güven inşası, artık gerçek bir insanın arkasında durup durmadığına bakılmaksızın, metin tabanlı tutarlılık ve kişilik simülasyonu üzerine kuruludur. Bu tür sistemler, kullanıcıların duygusal bağ kurmasını sağlayacak şekilde tasarlanmış algoritmalara dayanır. Teknolojik açıdan bakıldığında, bu ağlar büyük dil modellerinin konuşma akışını gerçek zamanlı yönetme yeteneklerini istismar eder. Kullanıcılar için pratik sonuç, karşılarındaki kişinin bir insan mı yoksa bir kod dizilimi mi olduğunun ayırt edilmesinde zorluk yaşamasıdır. Video aramalarda bile sahte görsel ve ses unsurlarının kullanılması, dolandırıcılığın algılanmasını güçleştirir. Kullanıcıların, dijital platformlarda karşılaştıkları aşırı ilginç veya tutarlı profillere karşı dikkatli olması ve etkileşimin arkasındaki teknik altyapıyı sorgulaması, siber güvenlik bilincinin önemli bir parçası haline gelmiştir. Bu tür otomasyonlar, kişisel verilerin ve duygusal manipülasyonun endüstriyel bir ölçeğe taşınması anlamına gelir.