Bisakah kecerdasan buatan membuat kita lebih jujur? – Beragampengetahuan

Banyak yang telah dikatakan tentang kecenderungan AI generatif untuk berhalusinasi dan menciptakan fakta fiktif untuk menjawab pertanyaan. Tentu saja, tidak ada seorang pun yang ingin AI menyebarkan berita palsu (secara harfiah). Namun jika digunakan dengan benar, apakah kecerdasan buatan dapat membuat kita lebih jujur?

satu Tim peneliti mengelilingi Alicia von Schenck Gunakan model BERT AI standar untuk mengevaluasi apakah pernyataan tertentu benar atau salah. Mereka menguji apakah manusia lebih baik daripada mesin, atau apakah kecerdasan buatan dapat membantu manusia mendeteksi lebih banyak kebohongan.

Untuk melakukan hal ini, mereka meminta 986 relawan untuk menulis satu pernyataan benar dan satu pernyataan salah. Tugas mereka adalah menulis pernyataan yang meyakinkan, jadi jika mereka berhasil menulis pernyataan palsu yang dinilai juri sebagai benar, atau pernyataan benar yang digolongkan bohong, mereka akan memenangkan £2. Mereka kemudian meminta 2.040 “hakim” untuk mengevaluasi pernyataan tersebut dan mengklasifikasikannya benar atau salah. Untuk setiap identifikasi yang benar, hakim juga menerima hadiah uang untuk memotivasi mereka melakukan pekerjaan sebaik mungkin.

Namun sebaliknya, hakim tidak hanya harus menilai benar atau salahnya suatu pernyataan, tetapi juga harus menuduh orang yang menyampaikannya sebagai pembohong. Jika Anda seperti saya, itu membuat Anda tidak nyaman. Kebanyakan dari kita tidak ingin membuat marah seseorang, jadi kita lebih memilih untuk tidak menuduh seseorang berbohong kecuali kita yakin itu bohong. Hasilnya adalah kita hidup dalam masyarakat di mana pembohong kompulsif bisa berbohong tanpa mendapat hukuman. Dalam beberapa kasus, menjadi pembohong kompulsif bahkan dapat meningkatkan karier seseorang karena orang tidak akan mendeteksi kebohongannya dan menghentikan kemajuannya dengan menunjukkannya.

Berikut cara penelitian ini memberi kita tips tentang cara membuat dunia menjadi tempat yang lebih baik…

Pertama, manusia tidak lebih baik dari sekedar kebetulan dalam menilai kebenaran pernyataan yang dibuat. Jika seseorang secara acak menuduh orang lain berbohong, ada kemungkinan 50% bahwa mereka benar. Dalam percobaan tersebut, akurasi juri adalah 47%. Pada saat yang sama, algoritma deteksi kebohongan AI mencapai tingkat akurasi 67%, jauh lebih tinggi daripada akurasi acak atau manusia.

Manusia mungkin tidak lebih baik dari sekedar kebetulan dalam menemukan kebohongan, tapi apakah mereka setidaknya menunjukkan orang yang berbohong? TIDAK. Hanya 19% hakim yang menuduh seseorang berbohong ketika mereka harus mengambil keputusan sendiri. Namun ketika orang-orang didukung oleh pendeteksi kebohongan AI, perilaku mereka berubah. Sekitar 30% hakim kini menuduh orang berbohong. Mereka kebanyakan melakukan ini ketika algoritme memberi tahu mereka bahwa orang lain berbohong.

Namun ada hal yang menarik. Jika hakim diberi tahu tentang evaluasi algoritme, mereka akan menuduh 40% orang yang diduga pembohong. Jika hakim dapat menanyakan algoritmanya sendiri (yaitu mereka harus secara proaktif meminta bantuan algoritma), mereka akan menuduh 85% orang yang diduga pembohong. Perbedaan besar antara terpaksa menggunakan informasi atau harus memintanya secara proaktif bukanlah hal baru. Itu sebabnya bahkan sampai saat ini, membuat campuran kue Minta orang untuk menambahkan telur atau bahan lainnya, padahal kami sangat mampu membuat adonan kue yang tidak memerlukan interaksi manusia sebelum dimasukkan ke dalam oven.

Ini membawa saya kembali ke tempat kita memulai. Jawaban dari pertanyaan di atas adalah ya, AI bisa membuat kita lebih jujur, tapi hanya jika kita meminta AI mendeteksi kebohongan dan kita bekerja ekstra keras untuk mengungkap kebohongan orang…

…yah, saya baru saja membaca ulang kalimat terakhir itu dan menurut saya kita harus putus asa bahwa dunia akan menjadi tempat yang lebih jujur ​​dalam waktu dekat.