AI Pemolisian Prediktif sedang meningkat – menjaganya agar tetap bertanggung jawab kepada publik dan efek berbahayanya – Beragampengetahuan
Yves ada di sini. Artikel ini menjelaskan eksperimen kepolisian prediktif yang telah menjadi buruk … dan kemudian, suara positif dibuat untuk suara yang belum dimulai yang belum dimulai, hanya berdasarkan pada prinsip-prinsip yang lebih baik. Pernyataan nilai perusahaan Amerika bahkan tidak dijangkau dalam praktik.
Sulit membayangkan bagaimana kepolisian prediktif memenuhi persyaratan untuk anggapan tidak bersalah, atau bagaimana surat perintah yang dikeluarkan menggunakan alat kepolisian prediktif memenuhi kriteria amandemen keempat, yang tidak masuk akal untuk pencarian dan kejang. “Stop and Frisk” di New York City bisa dibilang implementasi awal dari pemolisian prediktif, yang, meskipun kecurigaan yang wajar akan kegiatan kriminal, dianggap tidak konstitusional. Seperti yang diringkas Dana Pendidikan Dewan Kepemimpinan:
Pada tahun 1999, orang kulit hitam dan Latin merupakan 50% dari populasi New York, tetapi 84% dari parkir kota. Apa yang telah berubah dalam statistik ini selama dekade terakhir. Menurut pengadilan, antara 2004 dan 2012, Departemen Kepolisian New York berhenti 4,4 juta berhenti sesuai dengan kebijakan di seluruh kota. Lebih dari 80% berkulit hitam dan Latin. Kemungkinan senjata yang diproduksi oleh warga New York Afrika-Amerika adalah setengah kemungkinan orang kulit putih New York berhenti, dan kemungkinan menemukan barang selundupan di Afrika-Amerika yang dihentikan adalah sepertiga adalah peluang orang kulit putih New York berhenti.
Saya berharap pengacara di komentar dapat menjelaskannya. Namun, tampaknya ada banyak peluang untuk melanjutkan tren “peraturan sebagai hukum”, dalam hal ini hukum mensyaratkan tempat tidur Procrustean yang cocok untuk implementasi perangkat lunak. Itu lazim selama krisis penyitaan, dan banyak hakim hanya enggan untuk mempertimbangkan bahwa teknologi baru sekuritisasi hipotek tidak memenuhi persyaratan penyitaan “hukum bumi”. Dalam banyak kasus, mereka memilih untuk mengizinkan penyitaan untuk menunggangi preseden real estat karena mereka tidak ingin peminjam mendapatkan rumah gratis. Ingat, ini bukan yang diinginkan peminjam, tetapi modifikasi hipotek, yang disediakan oleh sebagian besar pemberi pinjaman di dunia “pinjaman yang dipreservasi bank”, tetapi penyedia layanan hipotek tidak terlibat dalam manufaktur.
Ditulis oleh Maria Lungu, seorang rekan postdoctoral di University of Virginia Law and Public Administration. Awalnya diposting dalam percakapan
Laporan Minoritas Fiksi Ilmiah tahun 2002 melukiskan masa depan seorang dystopian, di mana departemen kepolisian yang berdedikasi ditugaskan untuk menangkap kejahatan yang belum mereka lakukan. Disutradarai oleh Steven Spielberg dan berdasarkan cerita pendek oleh Philip K. Dick, ia berkisar di sekitar drama “Reprime”-sebuah sistem yang diinformasikan oleh psikolog tiga orang atau “lembaga persiapan” yang mengantisipasi pembunuhan di masa depan yang memungkinkan polisi untuk campur tangan dan mencegah penyerang mengambil kehidupan target mereka.
Film ini menyelidiki pertanyaan moral yang sulit: Bagaimana mungkin seseorang melakukan kejahatan yang belum dilakukan? Apa yang terjadi saat kesalahan sistem?
Meskipun tidak ada yang namanya “precog” dari satu daya tarik tunggal, komponen -komponen utama masa depan yang dibayangkan oleh laporan minoritas sudah lebih cepat dari yang dibayangkan penciptanya. Departemen kepolisian di seluruh dunia telah menggunakan sistem berbasis data yang dirancang untuk memprediksi kapan dan di mana kejahatan terjadi dan siapa yang dapat melakukan.
Memprediksi kepolisian jauh dari kebanggaan abstrak atau futuristik, itu adalah kenyataan. Analis pasar memprediksi ledakan teknologi.
Mengingat tantangan penggunaan mesin prediktif yang efektif dan adil, kepolisian prediktif menimbulkan masalah etika yang signifikan. Ada kekurangan perbaikan teknis, jadi ada cara untuk menyelesaikan masalah ini: memperlakukan penggunaan teknologi pemerintah sebagai akuntabilitas demokratis.
Sejarah yang meresahkan
Pemolisian prediktif bergantung pada kecerdasan buatan dan analisis data untuk memprediksi potensi aktivitas kriminal. Ini dapat melibatkan menganalisis set data besar yang diambil dari laporan kejahatan, catatan penangkapan, dan informasi sosial atau geografis untuk mengidentifikasi pola dan prediksi orang -orang yang mungkin telah melakukan kejahatan atau mungkin terlibat.
Lembaga penegak hukum telah menggunakan analisis data untuk melacak berbagai tren selama beberapa dekade. Namun, teknologi AI yang kuat saat ini menggunakan sejumlah besar data pelaporan pengawasan dan kejahatan untuk memberikan analisis berbutir yang lebih baik.
Departemen kepolisian menggunakan teknologi ini untuk membantu menentukan di mana sumber daya harus terkonsentrasi. Prediksi berbasis lokasi fokus pada mengidentifikasi lokasi berisiko tinggi, juga dikenal sebagai hot spot, di mana kejahatan cenderung terjadi secara statistik. Sebaliknya, tanda ikon pretest berdasarkan seseorang dianggap berisiko tinggi melakukan kejahatan atau menjadi korban kejahatan.
Jenis sistem ini selalu menjadi subjek perhatian publik. Di bawah apa yang disebut Program “Pemolisian yang Dipimpin Intelijen” di Pasco County, Florida, Departemen Sheriff menyusun daftar orang yang diyakini kemungkinan melakukan kejahatan dan kemudian berulang kali mengirim perwakilan ke rumah mereka. Lebih dari 1.000 penduduk Pasco, termasuk anak di bawah umur, secara acak dikunjungi oleh polisi dan dikutip seperti nomor email yang hilang dan hal-hal yang tertutup rumput.
Empat penduduk menggugat county pada tahun 2021 dan mereka mencapai penyelesaian tahun lalu, dengan Kantor Sheriff mengakui bahwa itu melanggar hak privasi warga dan perlakuan yang setara untuk hukum. Sejak itu rencana telah dihentikan.
Ini bukan hanya masalah Florida. Pada tahun 2020, Chicago pensiun “Daftar Tema Strategis,” sebuah sistem yang menggunakan analisis untuk memprediksi pelaku sebelumnya yang dapat melakukan kejahatan baru atau menjadi korban penembakan di masa depan. Pada tahun 2021, Departemen Kepolisian Los Angeles menonaktifkan penggunaan Predpol, sebuah program perangkat lunak yang dirancang untuk memprediksi hotspot kejahatan tetapi telah dikritik karena akurasi rendah dan memperkuat bias rasial dan sosial ekonomi.
Inovasi yang diperlukan atau kelebihan berbahaya?
Kegagalan program profil tinggi ini menyoroti ketegangan yang serius: bahkan ketika lembaga penegak hukum sering mengadvokasi alat yang digerakkan AI untuk keselamatan publik, kelompok hak-hak sipil dan cendekiawan prihatin dengan pelanggaran privasi, akuntabilitas, dan kurangnya transparansi. Terlepas dari retret profil tinggi dengan pemolisian prediktif ini, banyak departemen kepolisian yang lebih kecil masih menggunakan teknologi ini.
Sebagian besar departemen kepolisian A.S. tidak memiliki kebijakan yang jelas tentang pengambilan keputusan algoritmik, dan ada beberapa model prediktif tentang cara mengembangkan, melatih, atau memantau akurasi atau bias mereka. Analisis oleh Badan Brookings menemukan bahwa di banyak kota, pemerintah daerah tidak memiliki dokumen publik tentang data atau hasil evaluasi apa yang digunakan.
Opacity ini disebut “kotak hitam” di industri ini. Ini mencegah pengawasan independen dan menimbulkan pertanyaan serius tentang struktur pengambilan keputusan yang digerakkan oleh AI. Hak warga negara apa yang dimiliki warga jika mereka ditandai sebagai risiko tinggi oleh algoritma? Siapa yang bertanggung jawab atas keadilan sistem ini? Mekanisme pengawasan independen apa yang tersedia?
Masalah -masalah ini telah memicu perdebatan di masyarakat tentang apakah kepolisian prediktif harus direformasi, regulasi yang lebih ketat atau ditinggalkan sama sekali. Beberapa memandang alat -alat ini sebagai inovasi yang diperlukan, sementara yang lain melihatnya sebagai ekses berbahaya.
Cara yang lebih baik untuk San Jose
Tetapi ada bukti bahwa alat berbasis data berdasarkan nilai-nilai demokratis dari prosedur yang tepat, transparansi dan akuntabilitas dapat memberikan alternatif yang lebih kuat untuk sistem strategi prediktif saat ini. Jika publik dapat memahami bagaimana fungsi algoritma ini, data apa yang mereka andalkan dan perlindungan apa yang ada untuk mencegah hasil diskriminatif dan penyalahgunaan teknologi?
Kota San Jose, California, telah memulai proses yang dirancang untuk meningkatkan transparansi dan akuntabilitas dalam penggunaan sistem AI. San Jose mempertahankan satu set prinsip AI yang mengharuskan alat AI apa pun yang digunakan oleh kota menjadi efektif, transparan dan berdampak pada publik. Departemen kota juga harus menilai risiko sistem AI sebelum mengintegrasikannya ke dalam operasi mereka.
Jika langkah -langkah ini diambil dengan benar, langkah -langkah ini dapat secara efektif membuka kotak hitam, sangat mengurangi sejauh mana perusahaan AI dapat menyembunyikan data di balik kode atau data mereka, seperti perlindungan untuk perlindungan rahasia perdagangan. Tinjauan publik terhadap data pelatihan dapat mengungkapkan masalah -masalah seperti bias ras atau ekonomi yang mungkin dikurangi, tetapi sangat sulit jika bukan tidak mungkin untuk dihilangkan.
Penelitian menunjukkan bahwa ketika warga negara percaya bahwa lembaga pemerintah mengambil tindakan yang adil dan transparan, mereka lebih cenderung terlibat dalam kehidupan warga negara dan mendukung kebijakan publik. Jika lembaga penegak hukum memandang teknologi sebagai alat daripada penggantian keadilan, hasil yang lebih kuat dapat diproduksi.
kegiatan ekonomi
prinsip ekonomi
ekonomi kreatif, ilmu ekonomi adalah, pelaku ekonomi
, kegiatan ekonomi adalah, sistem ekonomi
#Pemolisian #Prediktif #sedang #meningkat #menjaganya #agar #tetap #bertanggung #jawab #kepada #publik #dan #efek #berbahayanya
