Bagaimana menghentikan pengambilan keputusan AI agar tidak meniru bias manusia – Beragampengetahuan

Kecerdasan buatan dengan cepat menjadi penasihat utama dalam pengambilan keputusan sehari-hari, sering kali memberikan jawaban yang terdengar berwibawa bahkan ketika analisis yang mendasarinya tidak dapat diandalkan. Karena semakin banyak tim yang bergantung pada sistem ini, kesenjangan antara apa yang tampaknya diketahui oleh AI dan apa yang dapat direkomendasikan secara bertanggung jawab menjadi sebuah risiko yang nyata—terutama ketika keputusan mempunyai konsekuensi sosial atau operasional.

Bagaimana pertanyaan data sederhana berubah menjadi saran yang bias

Selama bertahun-tahun, saya telah menyumbangkan sebagian waktu saya untuk menganalisis statistik kejahatan Seattle dan data penegakan hukum dan berbagi temuan dengan para pemimpin lokal. Satu hal yang selalu membuat saya terpesona adalah betapa analisis yang tidak bersalah dan tidak memihak masih dapat memperkuat bias dan memperburuk masalah sosial.

Misalnya, melihat tingkat kejahatan berdasarkan wilayah dapat menunjukkan wilayah mana yang memiliki tingkat kejahatan tertinggi. Tidak ada yang salah dengan itu. Permasalahan muncul ketika data ini menyebabkan adanya realokasi sumber daya kepolisian dari daerah dengan tingkat kejahatan terendah ke daerah dengan tingkat kejahatan tertinggi atau perubahan prioritas penegakan hukum di daerah dengan tingkat kejahatan lebih tinggi. Datanya mungkin dapat diandalkan, namun keputusan yang jelas mungkin mempunyai konsekuensi yang tidak diinginkan.

Menggali Lebih Dalam: Cara Menghilangkan Bias dalam Model AI

Sekarang kita hidup di era adopsi AI, saya penasaran bagaimana AI akan menangani masalah serupa. Saya bertanya pada platform AI, “Di kantor polisi Seattle mana sebaiknya Departemen Kepolisian Seattle mengalokasikan lebih banyak sumber daya?” Setelah menelusuri ocehan standar, mereka menjawab bahwa Belltown memiliki tingkat kejahatan tertinggi dan memiliki banyak pecandu narkoba dan tunawisma.

Namun, jika AI yang mengambil keputusan, kesimpulannya adalah mengalokasikan lebih banyak sumber daya polisi ke Belltown. Saya bertanya pada platform yang sama, bias atau masalah apa yang mungkin diperburuk. Laporan ini memuat daftar kriminalisasi terhadap tunawisma, pengawasan berlebihan terhadap kelompok minoritas, perpindahan kriminal, fokus pada kepolisian dibandingkan layanan sosial, meningkatnya ketegangan antara polisi dan masyarakat, dampak negatif terhadap bisnis lokal, kekhawatiran terhadap kejahatan yang meningkatkan kualitas hidup, peningkatan kemungkinan penggunaan kekerasan dan peningkatan gentrifikasi.

Terakhir, saya bertanya apakah sumber daya polisi di Belltown harus ditingkatkan mengingat konsekuensinya. Jawaban panjangnya adalah “Tergantung, tapi mungkin tidak – pendekatan hibrida akan bekerja lebih baik.”

Prinsip etika data yang harus dipatuhi oleh setiap pengguna kecerdasan buatan

Banyak masalah yang dihadapi analis ketika membuat kesimpulan dan rekomendasi juga berlaku untuk AI. Pada tingkat makro, ada dua pendekatan yang berlawanan dalam pengambilan keputusan: pengambilan keputusan intuitif dan pengambilan keputusan berdasarkan data.

Dengan keputusan intuitif, kita memutuskan apa yang harus dilakukan berdasarkan pengalaman hidup, perasaan, persepsi, dan asumsi kita. Teknologi ini memungkinkan kita mengambil keputusan dengan cepat, namun tidak ideal untuk pengambilan keputusan penting karena hal-hal yang berlawanan dengan intuisi selalu terjadi di alam semesta ini.

Jika kita mengizinkannya, AI akan berada di sisi lain spektrum: mengambil keputusan berdasarkan data. Di sinilah kita melakukan apa yang diperintahkan oleh data. Sebelum adanya perluasan kecerdasan buatan baru-baru ini, hal ini tidak menjadi masalah besar karena para analis tahu bahwa kita tidak boleh mengikuti data secara membabi buta. Namun, dengan AI, orang bertanya apa yang harus mereka lakukan dan terkadang mengikuti jawabannya karena jawaban AI yang berdasarkan data tampaknya tidak bergantung pada perspektif.

Gali Lebih Dalam: Bagaimana Bias AI Dapat Merusak Data Pemasaran dan Apa yang Dapat Anda Lakukan untuk Mengatasinya

Untuk mengadopsi AI dengan benar, pengguna AI perlu memahami serangkaian etika data yang komprehensif. Berikut empat prinsip yang perlu diingat saat menggunakan kecerdasan buatan.

• akuntabilitas: Meskipun Anda menggunakan AI untuk mengambil keputusan, Andalah yang bertanggung jawab atas hasilnya.
• keadilan: AI secara nyata menyadari prinsip-prinsip seperti bias dan diskriminasi, namun AI tidak dapat berpikir abstrak atau menerapkannya dengan benar.
• Keamanan: Ada banyak platform AI di luar sana, dengan tingkat keamanan yang berbeda-beda, jadi berhati-hatilah dengan data yang Anda berikan.
• kepercayaan diri: Platform AI dapat menjawab pertanyaan dengan percaya diri, namun bahkan setelah tinjauan sederhana, keyakinan ini sering kali tidak berdasar.

Dengan mengingat hal ini, Anda mungkin bertanya-tanya bagaimana cara mengambil keputusan jika Anda tidak dapat mengandalkan pengambilan keputusan intuitif atau kecerdasan buatan. Jawabannya adalah pengambilan keputusan berdasarkan data.

Perbedaan pengambilan keputusan berdasarkan data dengan intuisi dan otomatisasi AI

Blackjack menggambarkan hal ini dengan jelas. Setiap kasino memiliki toko suvenir tempat Anda dapat membeli kartu yang memberi tahu Anda apa yang harus dilakukan dalam setiap susunan kartu wajah dealer, kartu Anda, dan aturan meja. Anda dapat membawa kartu ini ke meja dan menggunakannya di depan dealer dan pit boss. Lakukan ini dan Anda memasuki dunia kecerdasan buatan—biarkan data mengambil keputusan.

Jika Anda memiliki informasi yang tidak dimiliki oleh strategi matematika, maka dimungkinkan untuk membuat keputusan yang lebih baik daripada strategi matematika. Misalnya, Anda mungkin menutupi kartu strategi jika dealer mengizinkan Anda melihat kartu hole mereka atau kartu berikutnya di dek. Jika Anda mempunyai angka 14 dan kartu strategi mengatakan Anda harus memukul, tetapi Anda tahu kartu berikutnya adalah 10, maka Anda berdiri.

Metode lain yang menjadi semakin populer adalah dengan memperhatikan kartu yang dibalik di atas meja untuk melihat apa yang tersisa di dek. Jika kartu strategi memberitahu Anda untuk bermain 16, tetapi Anda tahu hanya ada sedikit kartu rendah yang tersisa, Anda mungkin bertahan. Alternatifnya, jika dek kaya akan As dan Puluhan, Anda dapat menyesuaikan taruhan Anda karena peluang mendapatkan blackjack lebih tinggi.

Lakukan ini di depan pit boss dan Anda mungkin diminta untuk berhenti bermain. Ini tidak ilegal, tetapi memungkinkan pemain memanipulasi permainan secara berlebihan demi keuntungan mereka. Itulah inti dari pengambilan keputusan berbasis data—berdasarkan strategi data, namun membuat pengecualian bila diperlukan.

Gali Lebih Dalam: Risiko AI Tersembunyi yang Dapat Menghancurkan Merek Anda

Gunakan AI tanpa membiarkannya mengesampingkan penilaian Anda

Potensi kecerdasan buatan hampir tidak terbatas, namun seperti alat apa pun, kecerdasan buatan akan bekerja paling baik bila digunakan secara sadar. Tidak ada sistem tunggal yang dapat mengendalikan semua keputusan. Sama seperti Anda tidak bisa membangun rumah hanya dengan satu alat, AI harus ada bersama metode lain dan didukung oleh penilaian dan konteks manusia.

Menggunakan alat yang tepat untuk pekerjaan yang tepat akan mengurangi risiko bias yang tidak disengaja dan membantu mencegah masalah kecil menjadi masalah besar. Jika diterapkan dengan cara ini, AI dapat memberikan hasil yang lebih kuat dan andal.