Microsoft Defender for Office, 2024’te 1.3 milyondan fazla ASCII smuggling imzası tespit ederek, spam e-postaların gizli saldırı komutlarını engelleme çabalarını gözler önüne serdi. 2022 yılında prompt injection saldırılarını gizlemek için geliştirilen teknik, şimdi e-posta spam’lerinde yaygın olarak kullanılmaktadır.

ASCII Smuggling Nedir?

Bu yöntem, görsel olarak görünmez Unicode karakterleri kullanarak, LLM’lerin algılayabileceği ama insan okuyucuların fark edemediği komutlar oluşturur. U+E0041 gibi özel etiketler, standart ASCII harflerini taklit eder fakat yalnızca makine tarafından okunur.

Microsoft’un Tespit Verileri

Erken 2024’te Microsoft, Defender for Office’in günlük ASCII smuggling tespitini 21.000’den 1.3 milyonun üzerine çıkardığını rapor etti. Sadece dört gün içinde tespitler 2.5 milyona ulaştı ve Mayıs ortasında düşüş göstermeye başladı.

Spam Operatörlerinin Hedefi

Spam yazarları, “dollar”, “credit” ve “term” gibi anahtar kelimeleri gizleyerek filtreleri geçmeye çalışır. Görünmez karakterler, filtrelerin metni taramasını zorlaştırır ve e-postaların kullanıcıların gözü önünde gizli kalmasını sağlar.

Ne Anlama Geliyor?

Unicode karakterlerinin metin işleme seviyesinde görünürlükleri, yapay zeka modellerinin ve e-posta güvenlik sistemlerinin aynı anda karşı karşıya kaldığı bir zorluktur. Model, bu karakterleri normal metin gibi işlerken, insan okuyucu için tamamen şeffaftır. Bu durum, spam filtrelerinin metni tararken belirli anahtar kelimeleri bulmasını engeller ve aynı zamanda modelin gizli komutları algılamasını sağlar. Böylece saldırganlar, hem insan hem de makine tarafından fark edilmeksizin e-posta içeriğini manipüle edebilir. Bu teknik, e-posta güvenliği alanında yeni bir savunma stratejisinin gelişme ihtiyacını ortaya koyar. Ancak, aynı zamanda yapay zeka sistemlerinin metin işleme algoritmalarının daha duyarlı hale getirilmesi gerektiğini de vurgular. Bu süreç, e-posta filtrelerinin metin içeriğini derinlemesine analiz etmesini ve gizli karakterleri tanımlayabilmesini gerektirir.