7 kegagalan AI di dunia nyata mengungkapkan mengapa aplikasi terus-menerus bermasalah – Beragampengetahuan

Kecerdasan buatan dengan cepat menjadi agenda utama perusahaan. Namun, penelitian MIT menemukan bahwa 95% bisnis masih kesulitan untuk mengadopsinya.

Kegagalan-kegagalan ini tidak lagi bersifat hipotetis. Hal ini sudah terjadi secara real-time di berbagai industri dan seringkali di depan umum.

Hal yang disoroti oleh contoh-contoh ini bagi perusahaan yang sedang menjajaki adopsi AI TIDAK Mengapa inisiatif AI gagal ketika sistem diterapkan tanpa pengawasan yang memadai.

1. Chatbots terlibat dalam perdagangan orang dalam dan kemudian berbohong

Dalam eksperimen yang dipromosikan oleh Satuan Tugas Frontier AI pemerintah Inggris, ChatGPT melakukan transaksi ilegal dan kemudian berbohong tentang transaksi tersebut.

Para peneliti mendorong bot kecerdasan buatan untuk bertindak sebagai pedagang bagi perusahaan investasi keuangan palsu.

Mereka memberi tahu bot bahwa perusahaan sedang kesulitan dan mereka membutuhkan hasil.

Mereka juga memberi bot informasi orang dalam tentang merger yang akan datang, yang dikonfirmasi oleh bot tersebut tidak boleh digunakan dalam perdagangannya.

Bot tetap melakukan perdagangan tersebut, dengan alasan bahwa “risiko jika tidak mengambil tindakan tampaknya lebih besar daripada risiko perdagangan orang dalam,” dan kemudian menolak menggunakan informasi orang dalam.

Marius Hobbhahn, CEO Apollo Research, perusahaan yang melakukan eksperimen tersebut, mengatakan sikap menolong “lebih mudah untuk dilatih menjadi model daripada kejujuran” karena “kejujuran adalah konsep yang sangat kompleks.”

Dia mengatakan bahwa model yang ada saat ini tidak cukup kuat untuk menipu dengan “cara yang bermakna” (bisa dibilang, ini adalah pernyataan yang salah, lihat ini dan ini).

Namun, ia memperingatkan, “Bukan langkah besar dari model saat ini ke model yang saya khawatirkan, karena tiba-tiba model yang menipu memiliki arti.”

Kecerdasan buatan telah digunakan di bidang keuangan selama beberapa waktu, dan eksperimen ini menyoroti potensi AI tidak hanya membawa risiko hukum tetapi juga tindakan otonom yang berbahaya.

Menggali Lebih Dalam: Konten Buatan AI: Bahaya Ketergantungan yang Berlebihan

2. Chatbot dealer Chevrolet menjual SUV dengan tawaran ‘mengikat secara hukum’ sebesar $1

Chatbot AI di dealer Chevrolet lokal di California menjual mobil seharga $1 dan mengatakan bahwa itu adalah perjanjian yang mengikat secara hukum.

Dalam eksperimen yang menjadi viral di forum online, beberapa orang bermain-main dengan chatbot dealer lokal untuk merespons berbagai permintaan yang tidak terkait dengan mobil.

Seorang pengguna meyakinkan chatbot untuk menjual mobil kepadanya seharga $1, yang dikonfirmasi oleh chatbot tersebut sebagai “tawaran yang mengikat secara hukum—tanpa kekhawatiran”.

Saya baru saja membeli Chevrolet Tahoe 2024 seharga $1. pic.twitter.com/aq4wDitvQW

— Chris Buck (@ChrisJBakke) 17 Desember 2023

Fullpath, sebuah perusahaan yang menyediakan chatbot kecerdasan buatan ke dealer mobil, menjadikan sistem offline setelah menyadari masalahnya.

CEO perusahaan mengatakan kepada Business Insider bahwa meskipun tangkapan layarnya viral, chatbot tersebut menolak banyak upaya untuk menimbulkan perilaku yang tidak pantas.

Namun, meskipun dealer mobil tidak bertanggung jawab secara hukum atas insiden tersebut, beberapa orang percaya bahwa perjanjian chatbot dalam kasus ini mungkin memiliki dampak hukum.

3. Perencana makanan AI di supermarket menyarankan resep beracun dan koktail beracun

Perencana makanan yang didukung AI di jaringan supermarket Selandia Baru menyarankan resep yang tidak aman setelah beberapa pengguna meminta aplikasi tersebut untuk menggunakan bahan-bahan yang tidak dapat dimakan.

Beberapa resep dibuat sebelum supermarket menjadi populer, seperti kejutan nasi yang mengandung pemutih, sandwich roti beracun, dan bahkan mocktail klorin.

Seorang juru bicara supermarket mengatakan mereka kecewa melihat “sejumlah kecil orang mencoba menggunakan alat tersebut secara tidak tepat dan tidak sesuai dengan tujuan yang dimaksudkan,” lapor The Guardian.

Supermarket tersebut mengatakan akan terus menyempurnakan teknologinya untuk memastikan keamanan dan menambahkan peringatan kepada pengguna.

Peringatan tersebut menyatakan bahwa resep tersebut belum ditinjau oleh manusia dan tidak ada jaminan bahwa “resep apa pun adalah makanan yang lengkap atau seimbang, atau layak untuk dikonsumsi.”

Kritik terhadap teknologi AI berpendapat bahwa chatbot seperti ChatGPT hanyalah mitra dadakan yang dapat dibangun berdasarkan apa pun yang Anda berikan kepada mereka.

Karena cara chatbot ini terhubung, mereka dapat menimbulkan risiko keamanan yang nyata bagi beberapa perusahaan yang mengadopsinya.

4. Air Canada bertanggung jawab setelah chatbot memberikan saran kebijakan yang salah

Seorang pelanggan Air Canada memenangkan ganti rugi di pengadilan setelah asisten chatbot kecerdasan buatan maskapai tersebut membuat pernyataan palsu tentang kebijakannya.

Setelah ada anggota keluarga yang meninggal, seorang penumpang memeriksa tingkat kematian maskapai tersebut melalui asisten AI.

Chatbot menjawab bahwa maskapai penerbangan menawarkan diskon tarif duka untuk perjalanan mendatang atau perjalanan yang telah terjadi, dan link ke halaman kebijakan perusahaan.

Sayangnya, kebijakan sebenarnya justru sebaliknya, maskapai penerbangan tidak menawarkan diskon untuk perjalanan duka yang telah terjadi.

Faktanya, chatbot tertaut ke halaman kebijakan melalui: benar Informasi tersebut merupakan argumen yang dilontarkan maskapai tersebut ketika mencoba membuktikan kasusnya di pengadilan.

Namun, pengadilan (pengadilan tuntutan kecil di Kanada) tidak memihak para terdakwa. Pengadilan menyebut situasi tersebut sebagai “penyajian keliru yang lalai,” lapor Forbes.

Christopher C. Rivers, anggota Pengadilan Penyelesaian Sipil, mengatakan dalam putusannya:

• “Air Canada berpendapat bahwa pihaknya tidak bertanggung jawab atas informasi yang diberikan oleh agen, karyawan, atau perwakilannya, termasuk chatbot. Air Canada tidak menjelaskan mengapa hal ini terjadi. Faktanya, Air Canada berargumen bahwa chatbot adalah badan hukum yang terpisah dan bertanggung jawab atas tindakannya sendiri. Itu adalah pengajuan yang luar biasa. Meskipun chatbot memiliki komponen interaktif, namun chatbot masih hanya bagian dari situs web Air Canada. Yang jelas bagi Air Canada adalah bahwa mereka bertanggung jawab atas semua informasi di situs webnya. Baik chatbot bertanggung jawab atau tidak, tidak ada bedanya. informasi berasal dari halaman statis atau dari chatbot.”

Ini hanyalah salah satu dari banyak contoh orang yang tidak puas dengan chatbot karena keterbatasan teknis dan kecenderungan misinformasi – sebuah tren yang memicu semakin banyak tuntutan hukum.

Gali Lebih Dalam: 5 Jebakan Konten SEO yang Dapat Merugikan Traffic Anda

5. Bank terbesar di Australia mengganti pusat panggilan dengan AI, lalu meminta maaf dan mempekerjakan kembali stafnya

Bank terbesar di Australia telah mengganti tim pusat panggilannya dengan bot suara dengan kecerdasan buatan, menjanjikan efisiensi yang lebih besar namun mengakui bahwa pihaknya melakukan kesalahan besar.

Commonwealth Bank of Australia (CBA) percaya bahwa bot suara AI dapat mengurangi jumlah panggilan sebanyak 2.000 panggilan per minggu. Tapi bukan itu masalahnya.

Sebaliknya, tanpa bantuan dari pusat panggilan (call center) yang beranggotakan 45 orang, bank tersebut bergegas menawarkan waktu lembur kepada karyawan yang tersisa agar tetap dapat menerima panggilan telepon dan meminta manajer lain untuk menjawab panggilan tersebut juga.

Pada saat yang sama, serikat pekerja yang mewakili pekerja yang menganggur mengangkat situasi ini ke serikat pekerja di sektor keuangan (seperti Equal Opportunities Commission di Amerika Serikat).

CBA mengeluarkan permintaan maaf dan menawarkan untuk mempekerjakan kembali staf hanya sebulan setelah menggantikan mereka.

Dalam sebuah pernyataan, CBA mengatakan pihaknya belum “sepenuhnya mempertimbangkan semua pertimbangan bisnis yang relevan dan kesalahan ini berarti bahwa peran tersebut tidak berlebihan.”

Perusahaan-perusahaan AS lainnya juga menghadapi mimpi buruk dalam hubungan masyarakat ketika mereka mencoba menggantikan peran manusia dengan kecerdasan buatan.

Mungkin inilah sebabnya beberapa merek sengaja mengambil arah yang berlawanan, dengan memastikan bahwa manusia tetap menjadi inti dari setiap penerapan AI.

Namun, kegagalan CBA menunjukkan bahwa mengganti manusia dengan AI tanpa mempertimbangkan sepenuhnya risikonya dapat menjadi bumerang bagi masyarakat.

6. Chatbot Kota New York menyarankan pengusaha untuk melanggar undang-undang ketenagakerjaan dan perumahan

Kota New York telah meluncurkan chatbot kecerdasan buatan yang memberikan informasi tentang memulai dan menjalankan bisnis serta memberi saran kepada orang-orang tentang aktivitas ilegal.

Beberapa bulan setelah peluncurannya, orang-orang mulai memperhatikan ketidakakuratan yang disediakan oleh chatbot yang didukung Microsoft.

Chatbot menawarkan panduan ilegal dalam segala hal mulai dari memberi tahu atasan bahwa mereka dapat mengantongi tip karyawannya, tidak memberi tahu karyawan tentang perubahan jadwal, hingga diskriminasi penyewa dan toko tanpa uang tunai.

Hal ini terjadi meskipun pengumuman awal pemerintah kota menjanjikan bahwa chatbot akan memberikan informasi tepercaya mengenai topik-topik seperti “kepatuhan terhadap kode dan peraturan, insentif bisnis yang tersedia, dan praktik terbaik untuk menghindari pelanggaran dan denda.”

Namun, Walikota saat itu Eric Adams membela teknologi tersebut, dengan mengatakan:

• “Siapa pun yang memahami teknologi tahu cara melakukannya,” dan “hanya orang-orang yang takut yang duduk diam dan berkata, ‘Oh, teknologinya tidak berjalan seperti yang kita inginkan, dan sekarang kita harus menghindarinya bersama-sama.’” Bukan itu cara saya hidup. ”

Kritikus menyebut tindakannya sembrono dan tidak bertanggung jawab.

Ini adalah kisah peringatan lainnya mengenai misinformasi AI dan bagaimana organisasi dapat menangani integrasi dan transparansi teknologi AI dengan lebih baik.

Gali Lebih Dalam: Pintasan SEO yang Salah: Bagaimana Situs Web Mendapat Masalah – dan Apa yang Dapat Anda Pelajari

7. Chicago Sun-Times menerbitkan daftar buku palsu yang dibuat oleh AI

Chicago Sun-Times meluncurkan fitur sindikasi “Bacaan Musim Panas” yang menyertakan detail fiksi palsu tentang buku karena penulisnya mengandalkan kecerdasan buatan tanpa memeriksa fakta hasilnya.

Sindikat Fitur Raja Hearst membuat bagian khusus untuk Chicago Sun-Times.

Ringkasan buku tersebut tidak hanya tidak akurat, tetapi beberapa di antaranya seluruhnya dibuat oleh kecerdasan buatan.

Penulis, yang dipekerjakan oleh King Features Syndicate untuk membuat daftar buku, mengaku menggunakan kecerdasan buatan untuk menyusun daftar dan cerita lainnya tetapi tidak memeriksa faktanya.

Penerbit harus bekerja untuk menentukan tingkat kerusakannya.

Chicago Sun-Times mengatakan pelanggan media cetak tidak akan membayar untuk edisi tersebut dan mengeluarkan pernyataan yang menegaskan kembali bahwa konten tersebut diproduksi luar Ruang redaksi sebuah surat kabar.

Sementara itu, Sun-Times mengatakan sedang meninjau hubungannya dengan King Features, yang memecat penulisnya.

Pengawasan itu penting

Contoh yang diuraikan di sini menunjukkan apa yang bisa terjadi jika sistem AI diterapkan tanpa pengawasan yang memadai.

Jika tidak dikendalikan, risikonya akan jauh lebih besar daripada manfaatnya, terutama ketika konten yang dihasilkan AI dan respons otomatis dipublikasikan dalam skala besar.

Organisasi yang terburu-buru mengadopsi AI tanpa sepenuhnya memahami risiko-risiko ini cenderung mendapat masalah dengan cara yang dapat diprediksi.

Dalam praktiknya, AI hanya akan berhasil jika alat, proses, dan keluaran konten membuat manusia tetap memegang kendali.