Kadın 26 Eylül'de "shoot up" (silahlı saldırı) ifadesini kullanmış, ertesi gün yeni bir silah satın aldığını belirtmiştir. WINK News, 30 Eylül'de yapılan tutuklamayı ilk olarak haberleştirmiştir.
Antropic'in Tehdit Tespiti ve Raporlama Süreci
Antropic'in platformu, tehdit içeren dilbilimsel ifadeleri izlemek üzere tasarlanmıştır. Şüpheli mesajlar ilk olarak otomatik filtreleme sistemleri tarafından yakalanmış, daha sonra insan gözlem ekibine iletilmiştir. Söz konusu ekip, tehditlerin ciddiyeti nedeniyle bunları kolluk kuvvetlerine bildirmiştir.
Şerif Carmine Marceno, yaptığı açıklamada "Yapay zeka güçlü bir araçtır ve herhangi bir teknoloji gibi kötüye kullanılabilir. Birisi tehdit oluşturmak veya kolaylaştırmak için yapay zekayı kullandığında, o tehdidi ciddiye almamız gerekir" demiştir. Marceno, kullanıcıların gerçekten anonim olmadıklarını anlama ihtiyacı olduğunun altını çizmiştir.
Yasal Takip ve Diğer Olaylar
Kadına karşı 30 Eylül'de Florida Kanunu 836.10'a göre suçlama yapılmıştır. Bu kanun, kitle çatışması veya terör eyleminin yazılı veya elektronik tehditleriyle ilgilidir. Duruşması 2 Kasım'a planlanmıştır.
Tom's Hardware'in aktardığına göre, Claude üzerinden Ağustos ayından bu yana en az iki olay daha polis tarafından incelenmiştir. San Antonio'da 22 yaşındaki bir genç, 11 Ağustos'ta yakındaki bir ilkokulu hedef alan silahlı saldırı hakkında Claude'a soruşturma yapılmıştır. FBI'ın uyarısıyla polis onu terör tehdidi suçlamasıyla tutuklamıştır. San Francisco'da 14 Ağustos'ta ise bir kullanıcı Antropic başkanı Dario Amodei'ye yönelik tehdit içeren bir Claude sohbetinde AR-15 satın aldığını belirtmiştir. Antropic, polisi haberdar etmiş ancak tutuklamaya veya suçlamaya yol açmamıştır.
Gizlilik Politikaları ve Yasal Çerçeve
Antropic'in 10 Eylül'den itibaren yürürlükte olan gizlilik politikası, şirkete "ciddi zararın" önlenmesi gerektiğine inandığında kişisel verileri kolluk kuvvetleriyle paylaşma hakkını tanımaktadır. Hükümet talepleriyle ilgili politikaya göre, kullanıcı bilgileri yalnızca geçerli yasal bir işlem altında açıklanmaktadır; istisnai durum ise "ani fiziksel hasar veya ölüme neden olabilecek" acil durumlarıdır. OpenAI da benzer şekilde ChatGPT kullanıcılarını raporlamaktadır.
Ne anlama geliyor?
Bu olay, yapay zeka sohbet platformlarının giderek artan güvenlik sorumluluğunu ve yasal yükümlülüklerini ortaya koymaktadır. Platform işletmecileri, açık tehdit veya şiddete işaret eden içerik tespit ettiklerinde, yasal çerçeve içerisinde bunu ilgili makamlara bildirme zorunluluğu altındadır. Söz konusu mekanizmalar, otomatik içerik filtreleri ve insan müdahalesinin kombinasyonundan meydana gelmektedir; sistem, belirli anahtar kelimeler ve tehdit göstergelerini tanıyarak bunları gözden geçirmek üzere bir ekibe sunmaktadır.
Kullanıcılar açısından, bu tür platformları kullanırken yazılan her şeyin potansiyel olarak kayıt altında bulunduğunu ve şiddete yönelik açık ifadeler barındırması durumunda yasal sonuçlar doğurabileceğini anlamak önemlidir. Şiddeti teşvik eden veya somut tehditler içeren ifadeler, hatta eğlence veya hipotetik bir bağlamda yazılmış olsa bile, güvenlik sistemaları tarafından yakalanabilmektedir. Bu süreç, dijital çağda ifade özgürlüğü ile kamu güvenliğinin dengelenmesi meselesini gündeme getirmektedir.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yazın.