Uygulamadaki sahte profillerden biri olan 41 yaşında, kızıl saçlı ve mavi gözlü 'Jennifer' karakteri, kullanıcıyla video bağlantısı kurarken aslında bir insan yerine hareket eden bir halı ve bozulmuş arka plan sesleri gösterdi. Gore-Kormanik, mikrofonunun açık olmadığını fark etmesine rağmen sahte kişinin sesine övgüde bulunan mesajlar aldığını belirtti. Bu durumun arkasındaki mekanizmayı araştırmaya başladığında, olayın çok daha büyük bir ölçeğe yayıldığını keşfetti.
Endüstriyel ölçekte AI catfishing ağı
Anthropic şirketi, Claude yapay zeka modelinde olağandışı bir aktivite tespit ettikten sonra tehdit istihbaratı araştırmacısı Chris Cronbaugh'ı halka açık bir siber güvenlik konferansı olan Sleuthcon'da konuşmacı olarak görevlendirdi. Cronbaugh, 'Swipe Right, Pay Up: Industrial-Scale AI Catfishing' başlıklı sunumunda, yaklaşık 28 farklı sahte tanışma uygulamasından oluşan devasa bir ağın varlığını ortaya koydu. Araştırmacılar, bu ağın bir ön ödemeli hesabı üzerinden günde 100.000'den fazla API isteği göndererek otomatik konuşma trafiği oluşturduğunu belirledi.
İnsan etkileşimi olmadan dolandırıcılık
Ağın işleyişinde en çarpıcı detay, sohbetlerin büyük kısmında herhangi bir insan ajanının bulunmamasıydı. Sahte profiller, otonom yapay zeka kişilikler tarafından yönetilerek kullanıcılarla tamamen bağımsız bir şekilde etkileşime giriyordu. Bu durum, geleneksel dolandırıcılık yöntemlerinden farklı olarak, insan operatörlerin her konuşmayı birebir takip etmesine gerek kalmadan, binlerce kullanıcıyla eşzamanlı ve tutarlı iletişim kurmayı mümkün kılıyordu. Sahte profillerin detaylı biyografileri ve kişisel ilgi alanları, kullanıcının güvenini kazanmak için yapay zeka tarafından dinamik olarak üretiliyordu.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.