Siapa yang benar -benar mendapat manfaat dari AI? – Beragampengetahuan

Belum lama ini, seorang pria di Detroit Robert Williams ditangkap secara ilegal sebagai kejahatan yang belum dia lakukan. Polisi Detroit mengandalkan perangkat lunak. Mengingat wajah bahwa dia salah. Algoritma yang efektif tetapi itu salah dan orang yang tidak bersalah membayar harganya

Kisah ini memotong janji kecerdasan buatan. Mereka mengungkapkan kebenaran yang cenderung kita abaikan: efisiensi sering bermanfaat bagi seseorang. Tetapi tidak semua orang pertanyaan yang harus kita tanyakan itu mudah: siapa yang benar -benar mendapat manfaat dari AI?

Industri teknologi menyukai efisiensi. AI menjual sebagai solusi yang lebih cepat, lebih murah dan cerdas. Ini memindai sejarah dalam beberapa detik, memprediksi perilaku konsumen dan “menyesuaikan” segalanya, dari lampu lalu lintas hingga jadwal sekolah. Namun, kinerjanya tidak netral. Ini mencerminkan pilihan manusia, prioritas organisasi dan hierarki sosial. Ketika kita melihat lebih dekat, efektivitas sering memberikan layanan yang kuat sambil mengubah risiko bagi mereka yang memiliki kekuatan paling sedikit untuk melawan.

Misalnya, perlakuan prediksi inspeksi prediksi sering kali merupakan cara untuk mengalokasikan sumber daya secara adil. Tetapi alih -alih mengirim pejabat ke lingkungan terdekat di bawah pengawasan berat, yang seringkali merupakan efisiensi komunitas yang penuh warna adalah benar. Tetapi ini berguna bagi polisi dan kota, bukan keluarga yang harus berhenti mencari dan memeriksa lebih banyak.

Contoh lain mungkin AI di tempat kerja, algoritma, jadwal, perubahan dan pangkat pelamar tanpa prasangka. Dalam praktiknya, mereka menghukum para pekerja dengan mengakses internet yang tidak pasti, non -tradisional atau tanggung jawab di perusahaan, menghemat uang, kehilangan keselamatan.

Bahkan di bidang pendidikan bahwa AI telah dirayakan sebagai kekuatan demokratis, ceritanya sama. Sekolah yang didukung dengan baik dapat membeli platform pembelajaran yang dapat disesuaikan dengan dukungan untuk siswa. Sebuah sekolah yang menerima dana rendah, terutama di zona rendah atau di daerah pedesaan sering kali kurangnya sumber daya pelatihan, pelatihan, dan lisensi untuk mengimbangi. Bagi mereka, efisiensi AI adalah kontrak abstrak, bukan kenyataan.

Formulirnya jelas. AI bukan alat netral di masyarakat. Ini adalah sistem yang dibuat dalam ketidaksetaraan dan efektivitas yang ada sering kali memperluas pemisahan tersebut. Jika kita ingin AI melayani keadilan, kita harus berhenti bertanya apakah lebih cepat atau lebih murah. Kita harus bertanya siapa yang diuntungkan? Siapa yang tersisa? Selain itu, bagaimana kita bisa yakin bahwa keuntungan akan dibagikan secara adil?

Menjawab pertanyaan -pertanyaan ini membutuhkan filosofi desain yang berbeda. Pertama, komunitas yang paling terpengaruh dari AI harus memiliki kursi di meja. Seringkali, sistem baru ditentukan di lingkungan, ruang kelas atau tempat kerja tanpa informasi yang bermakna dari orang yang hidup dengan konsekuensinya. Desain partisipatif bukanlah kelompok fokus, dapat membuat AI lebih bertanggung jawab untuk publik.

Kedua, algoritma tidak bisa berada dalam kotak hitam. Ketika sistem memutuskan siapa yang menerima pinjaman atau bunga polisi, orang -orang memiliki hak untuk mengetahui cara kerjanya dan menantang hasil yang tidak adil. Transparansi dan tanggung jawab harus menggantikan dinding dan dinding yang sangat besar.

Ketiga, kita harus berbagi manfaat. Jika AI membantu meningkatkan efisiensi laba, tidak boleh meningkatkan nilai dan investor teknologi. Mereka harus menyediakan dana broadband internasional untuk melatih pekerja lokal dan program sosial yang menyebar. Kalau tidak, AI akan memperluas kesenjangan antara orang -orang dengan kekuasaan dan mereka yang tidak memilikinya.

Akhirnya, kami ingin mengetahui buku -buku AI secara luas, sementara Mimi Onuoha dan Mother Cyborg berargumen dalam “manual untuk AI”. Orang harus dapat memahami dan mengkritik teknologi ini. Jika tidak ada percakapan, percakapan akan tetap berada di kelas tinggi, sementara orang yang paling terpengaruh memiliki suara paling sedikit.

Ini tidak berarti meninggalkan AI. Di sisi lain, ini dapat digunakan untuk memprediksi bencana iklim, mempercepat penelitian medis atau merancang lingkungan belajar yang lebih komprehensif. Tetapi masa depan itu tidak akan terjadi secara kebetulan itu akan terjadi hanya ketika kita menciptakan AI dengan keadilan, bukan hanya efisiensi di hati kita.

Bahaya AI yang sebenarnya bukanlah mesin untuk mengatasi kita. Tetapi kita akan salah paham bahwa efisiensi mereka untuk kemajuan, sambil mengabaikan orang yang tertinggal. Pertanyaan ini bukan retorika yang makmur. Tetapi apakah tes imajinasi kita: Siapa yang benar -benar akan mendapat manfaat dari AI?

Jika jawabannya hanyalah perusahaan pemerintah dan aristokrat, kami tidak membuat apa pun lebih dari perangkat yang lebih cepat untuk ketidaksetaraan. Tetapi jika jawabannya, termasuk pekerja, siswa, keluarga dan komunitas terlalu sering yang dibebaskan dari AI, itu mungkin lebih efektif. Itu bisa saja

Shahin Hossain adalah seorang kolega, kecerdasan buatan dan pendidikan di University of Marriland, Departemen Pendidikan Umum Kabupaten Baltimor.