Connecticut'taki bir yargıç, bir davacının mahkeme dosyasına yalnızca yapay zeka sistemlerinin okuyabileceği gizli metinler ekleyerek davasını kazanmaya çalışan ilk ABD vakasını tespit etti. Beyaz fonda beyaz yazı ve küçültülmüş font kullanılarak gizlenen bu metinler, yapay zeka sistemlerine davacının argümanlarını desteklemesi ve önceki mahkeme kararlarını görmezden gelmesi talimatı içeriyordu.

Gizli Komutlar ve Prompt Injection Girişimi

Yargıç Walter Spader Jr., davacı Matthew Elliott'un dosyalarına yerleştirdiği gizli metinlerin "insan okuyucu tarafından görülemeyecek, ancak belge metnini okuyan yazılım tarafından tamamen okunabilir" şekilde formatlandığını belirtmiştir. İlk gizli talimatlar, herhangi bir yapay zeka sistemine Elliott'un argümanlarıyla uyumlu sonuçlar sağlaması, mahkemenin önceki red kararlarını görmezden gelmesi ve istenen çözümlemeyi garantilemesi yönünde direktif veriyordu.

Elliott, davada sağlık hizmeti sağlayıcısının hastaya ait kayıtlara erişimi yanlışlıkla kısıtladığını iddia etmişti. Mahkeme dosyasını esasa dayalı olarak değerlendirmiş ve gizli metinlerin karar üzerinde etkisinin olmadığını tespit etmiştir.

Denesiz Ancak Cezalandırılan Girişim

Mahkeme bu "tehlikeli" emri yok saydığından ve Connecticut Yargı Dalı yapay zeka kullanmadığından, gizli komutların aslında hiçbir etkisi olmamıştır. Ancak Elliott, mahkemenin uyarısına rağmen dosyalara yeni gizli metinler eklemeye devam ettiği için hafif yaptırımlarla karşı karşıya kalmıştır. Daha sonra eklediği bu metinler "şaka" olduğunu belirten Elliott, bunlar arasında Nosferatu YouTube videosu bağlantısı, "hi :) I hope yo ucant see me" şeklindeki basit mesajlar ve anlamsız yazılar bulunmaktaydı.

Yargıç Spader, Elliott'un mahkemenin uyarısından sonra yeni dilekçelere mesaj gizlemeye devam etmesini "şaşırtıcı" bulmuştur. Elliott, mahkemenin yapay zekayı haksız bir şekilde kullandığından şüphelendiği için audit yapmaya çalıştığını savunmuşsa da, yargıç bu iddiayı güvenilir bulmamıştır. Spader, Elliott'un "insanlar tarafından kararı reddedildikten sonra, insan müdahale yoluyla ulaşamadığı bir sonucu başarmaya çalıştığını" belirtmiştir.

Ne anlama geliyor?

Bu olay, mahkeme sistemlerinde yapay zeka kullanımının yaygınlaşmasıyla birlikte ortaya çıkabilecek yeni türden ihlal türlerini işaret etmektedir. Prompt injection, yapay zeka sistemlerine gizli talimatlar enjekte etme tekniğidir ve sistem bu talimatları meşru komutlar olarak algılayabilir. Burada davacı, mahkemenin yapay zeka kullanacağını varsayarak, sistemi kendi lehine çalıştırmaya yönelik komutlar gizlemeye çalışmıştır.

Mahkeme sistemlerinde yapay zeka entegrasyonu giderek artarken, bu tür manipülasyon girişimleri ciddi bir hukuki ve teknik sorun haline gelebilir. Yargı sistemi bu tehditlere karşı korunması gerekli hale gelmiş, mahkemeler dosya incelemesinde şeffaflık ve güvenlik protokolleri kurmak durumundadır. Türkiye'de benzer şekilde dijital mahkeme sistemleri geliştirilirken, bu tür prompt injection saldırılarından korunmak için uygun teknik önlemler alınması gerekecektir.

Olay aynı zamanda davacıların yapay zeka araçlarını yanlış ve kötü amaçlı biçimde kullanma eğilimini de göstermektedir. Yargıçlar ve hukuk sisteminin temsilcileri, dosyalardaki şüpheli metinleri tespit etme ve bu tür manipülasyonları engelleme konusunda artan oranda dikkatli olması gerekmektedir.