Telegram CEO'su Pavel Durov, uygulamanın kısa süreliğine App Store'dan kaldırılmasının arkasında şantajcıların olduğu bir operasyonun bulunduğunu açıkladı. Durov, kötü niyetli kişilerin yasal toplulukları hedef alarak Apple'ı manipüle ettiğini belirtti.

Yapay Zeka Destekli Gizli İçerik Saldırısı

Durov'un açıklamalarına göre saldırganlar, aktif bir grup sohbetindeki eski bir mesajı düzenleyerek içeriğe yapay zeka ile değiştirilmiş yasa dışı çocuk istismarı materyalleri yerleştirdi. Bu teknik sayesinde içerik grup üyeleri tarafından görülmedi ve raporlanamadı, ancak doğrudan Apple'a şikayet edilerek uygulamanın kaldırılması sağlandı.

Şantaj Yöntemleri ve Sistemik Riskler

CEO, bu kişilerin grup sahiplerinden fidye talep eden şantajcılar olduğunu ve ödeme yapmayan toplulukları hedef aldıklarını bildirdi. Apple'ın Telegram ile iletişime geçmeden uygulamayı mağazadan kaldırmasının, kullanıcı tarafından oluşturulan içerik barındıran tüm mobil uygulamalar için sistemik bir risk oluşturduğunu savundu.

Ne anlama geliyor?

Dijital platformlarda içerik denetimi, kullanıcıların paylaştığı verilerin gerçek zamanlı olarak taranması ve raporlanması prensibiyle çalışır. Bazı yöntemlerle eski verilerin güncellenmesi, denetim mekanizmalarını atlatarak içeriğin sadece belirli mercilere görünür kılınmasını sağlayabilir. Bu durum, otomatik raporlama sistemlerinin kötüye kullanılarak platformların erişilebilirliğinin engellenmesine yol açan bir güvenlik açığına işaret eder.

Uygulama mağazalarının içerik politikaları gereği, ağır ihlaller tespit edildiğinde platformlar hızla yayından kaldırılabilir. Ancak ön uyarı mekanizmalarının işletilmemesi, geliştiricilerin hatalı raporlara karşı savunmasız kalmasına neden olur. Bu süreç, moderasyon araçlarının sadece yeni mesajları değil, geçmişe dönük düzenlemeleri de aynı hassasiyetle takip etmesi gerektiğini gösterir.