Amerikan polis departmanları, rutin işleri otomatikleştirmek amacıyla yapay zeka ürünlerine yönelmeye başladı. Fort Worth, Texas'ta düzenlenen Uluslararası Polis Şefler Derneği (IACP) Teknoloji Konferansı'nda, yüz tanıma kameraları, otomatikleştirilmiş plaka okuyucu sistemler, chatbotlar, silah sesini tespit eden platformlar ve rapor yazma araçları gibi AI çözümleri sunuldu.

Polis Hizmetlerinde Otomasyonun Yükselmesi

Teknoloji şirketleri, polis departmanlarına bir merkezi kontrol sistemi olarak işlev görecek yapay zeka ürünleri pazarlamaktadır. Bu sistemlerin, çok sayıda izleme aracından toplanan verileri işleyerek kaynakların nasıl dağıtılacağını belirleyeceği vaat edilmektedir. Ancak polis kaptanı Abrem Ayana'nın belirttiği gibi, birçok ürünün vaatleri yerine getirmediği ve satış taktiğinden ibaret olduğu görülmektedir.

Geçmiş Deneyimler ve Şeffaflık Endişeleri

Benzer sistemlerden CompStat ve PredPol'ün geçmişte insani önyargıları ortadan kaldırmak için tasarlanmasına rağmen, sorunları daha da ağırlaştırdığı ortaya çıkmıştı. Hukuk uzmanları ve kamu güvenliği örgütleri, bu yeni nesil algoritmik sistemlerin kanun yaptırımında şeffaflığı azaltacağı konusunda uyarılarda bulunmaktadır. Federal düzenleme eksikliği ve sektör standartlarının olmayışı, polis departmanlarını şirketlerin ürünlerinin güvenli ve etkili olduğuna dair sözlerine güvenmeye zorlamaktadır.

Ne anlama geliyor?

Polis hizmetlerinde yapay zeka kullanımı, karar alma süreçlerinin bir kısmını insanların denetiminden çıkararak algoritmalara vermek anlamına geliyor. Bu teknolojiler, geniş miktardaki veriyi işleyerek daha hızlı ve merkezi kararlar almayı amaçlıyor. Bununla birlikte, bu yaklaşım önemli riskleri de beraberinde getiriyor.

Tarihsel olarak, benzer otomasyonu hedefleyen sistemlerin, daha tarafsız olması gerektiği beklentisine karşın, var olan önyargıları yeniden üretmiş veya güçlendirmiş olduğu görülmüştür. Algoritmaların nasıl çalıştığı kamuya açık olmadığında (bu durum yaygın olarak 'kara kutu' problemi olarak adlandırılır), hatalı kararların nasıl alındığını anlamak ve eleştirmek zorlaşır. Bu da şeffaflığın azalmasına yol açar.

Uygulamada, bir operasyonun otomatik olarak başlatılması veya bir karar algoritmanın önerisiyle verilmesi, insanın sorumluluğunun belirsizleşmesine neden olabilir. Hata oluştuğunda kimin sorumlu olduğu belli olmaz. Bunun yanında, geniş izleme ağları kurulması, sokakta yaşayan insanların gizliliğini de etkileyebilir. İnsanların nasıl izlendiğini ve bu verilerin nasıl kullanıldığını bilmemesi, hak ve özgürlükleri kısıtlayabilir.