Bisakah pengembang AI menghindari kesalahan fatal Frankenstein? – Beragampengetahuan

Penonton sudah mengetahui kisah Frankenstein. Novel gotik ini—diadaptasi puluhan kali, yang terbaru dalam kebangkitan kembali sutradara Guillermo del Toro yang kini tersedia di Netflix—telah tertanam dalam DNA budaya kita sebagai kisah peringatan tentang kesalahan sains. Namun budaya populer salah menafsirkan peringatan penulis Mary Shelley. Pelajarannya bukanlah “jangan membuat hal-hal yang berbahaya”. Ini adalah “jangan membuang apa yang Anda buat”.

Perbedaan ini penting: Persimpangan terjadi setelah penciptaan, bukan sebelumnya. Semua teknologi canggih bisa menjadi destruktif – pilihan antara hasil terletak pada pengelolaan atau pelepasan. Kejahatan Victor Frankenstein lebih dari sekedar memberikan kehidupan pada makhluk aneh. Mereka menolak untuk mengangkat masalah ini, dan bersikeras bahwa konsekuensinya adalah masalah orang lain. Setiap generasi menciptakan Pemenangnya. Pekerjaan kami adalah tentang kecerdasan buatan.

Baru-baru ini, pengadilan banding California mendenda seorang pengacara sebesar $10.000 setelah 21 dari 23 kutipan kasus dalam laporan mereka terbukti merupakan rekayasa AI – tanpa preseden. Ratusan kasus serupa telah tercatat secara nasional, meningkat dari beberapa kasus dalam sebulan menjadi beberapa kasus dalam sehari. Musim panas ini, pengadilan banding Georgia membatalkan keputusan perceraian setelah menemukan bahwa 11 dari 15 kutipan dibuat oleh AI. Berapa banyak lagi orang yang tidak terdeteksi dan siap merusak catatan hukum?

Masalahnya lebih dalam daripada penerapan yang tidak bertanggung jawab. Selama beberapa dekade, sistem komputer telah terbukti akurat – kalkulator selalu dapat memberikan jawaban matematis yang benar kepada pengguna. Insinyur dapat mendemonstrasikan cara kerja algoritme. Kegagalan berarti kesalahan implementasi, bukan ketidakpastian mengenai sistem itu sendiri.

AI modern mengubah paradigma itu. Sebuah studi baru-baru ini yang dilaporkan dalam jurnal Science menegaskan apa yang telah lama diketahui oleh para ahli AI: kesalahan yang dapat dipercaya – yang oleh industri disebut sebagai “halusinasi” – tidak dapat dihindari dalam sistem ini. Mereka dilatih untuk memprediksi apa yang terdengar masuk akal, bukan memverifikasi apa yang benar. Ketika jawaban tertentu tidak dapat dibenarkan, sistem akan tetap menebak-nebak.

Pelatihan mereka menghargai kepercayaan diri dibandingkan ketidakpastian. Seperti yang dikatakan oleh salah satu peneliti AI dalam laporan tersebut, memperbaiki bug ini akan “mematikan produk”.

Hal ini menciptakan masalah mendasar mengenai keaslian. Sistem ini bekerja dengan mengekstraksi pola dari sekumpulan besar data pelatihan – pola yang sangat banyak dan saling berhubungan sehingga bahkan perancangnya tidak dapat memprediksi dengan pasti apa yang akan mereka hasilkan. Kita hanya dapat mengamati cara kerjanya dalam praktik, terkadang baru setelah kerusakan terjadi.

Ketidakpastian ini menimbulkan konsekuensi jangka panjang. Kegagalan ini tidak hilang namun menjadi permanen. Setiap pemalsuan hukum yang masuk ke dalam database tanpa terdeteksi dimasukkan ke dalam database sebagai preseden. Saran medis palsu tersebar di situs medis. “Berita” yang dihasilkan AI menyebar di jejaring sosial. Konten gabungan ini bahkan disertakan dalam data pelatihan untuk model masa depan. Ilusi hari ini menjadi kenyataan di masa depan.

Jadi bagaimana kita mengatasi masalah ini tanpa menghambat inovasi? Kami sudah memiliki model untuk bidang farmasi. Perusahaan farmasi tidak dapat memastikan terlebih dahulu semua efek biologisnya, sehingga mereka melakukan pengujian secara ekstensif dan sebagian besar obat gagal sebelum mencapai pasien. Bahkan obat-obatan yang disetujui pun menghadapi masalah praktis yang tidak terduga. Itu sebabnya pemantauan terus menerus tetap diperlukan. AI membutuhkan kerangka serupa.

Pengelolaan yang bertanggung jawab – dibandingkan dengan ditinggalkannya Victor Frankenstein – memerlukan tiga pilar yang saling berhubungan. Pertama: mengatur standar pelatihan. Produsen obat harus mengontrol bahan-bahan, mendokumentasikan proses pembuatan, dan melakukan pemeriksaan kualitas. Perusahaan AI menghadapi persyaratan paralel: sumber data pelatihan yang terdokumentasi, dengan pemantauan kontaminasi untuk mencegah penggunaan kembali konten gabungan yang bermasalah, kategori konten terlarang, dan pemeriksaan bias demografis. Regulator obat menuntut transparansi, sementara perusahaan AI saat ini hanya perlu mengungkapkan sedikit hal.

Kedua: pengujian sebelum penerapan. Obat tersebut menjalani pengujian ekstensif sebelum sampai ke pasien. Uji coba terkontrol secara acak merupakan pencapaian besar, yang dikembangkan untuk menunjukkan keamanan dan efektivitas. Kebanyakan gagal. Itulah masalahnya. Pengujian mendeteksi potensi bahaya sebelum penerapan. Sistem AI untuk aplikasi berisiko tinggi, termasuk penelitian hukum, konsultasi medis, dan manajemen keuangan, memerlukan pengujian terstruktur untuk mendokumentasikan tingkat kesalahan dan menetapkan ambang batas keamanan.

Ketiga: pemantauan berkelanjutan setelah penerapan. Perusahaan farmasi wajib memantau efek samping produk dan melaporkannya kepada regulator. Pada gilirannya, regulator dapat mengeluarkan peringatan, pembatasan, atau penarikan kembali ketika masalah muncul. AI membutuhkan pengawasan yang setara. Mengapa hal ini memerlukan peraturan dan bukan kepatuhan sukarela? Karena sistem AI pada dasarnya berbeda dari alat tradisional. Palu tidak berpura-pura menjadi seorang tukang kayu. Sistem AI melakukannya dengan memproyeksikan kekuatan melalui prosa yang penuh percaya diri, baik dengan melontarkan atau mengarang fakta. Tanpa persyaratan peraturan, perusahaan yang mengoptimalkan keterlibatan akan mengorbankan akurasi untuk mendapatkan pangsa pasar. Caranya adalah dengan mengatur tanpa mengorbankan inovasi. Undang-Undang AI UE menunjukkan betapa sulitnya hal ini. Berdasarkan UU tersebut, perusahaan yang membangun sistem AI berisiko tinggi harus mendokumentasikan cara sistem beroperasi, menilai risiko, dan memantaunya dengan cermat. Sebuah startup kecil mungkin menghabiskan lebih banyak uang untuk pengacara dan dokumen daripada membangun produk sebenarnya. Perusahaan besar memiliki tim hukum yang dapat menangani hal ini. Tim kecil tidak bisa.

Regulasi farmasi menunjukkan pola serupa. Pengawasan pasca-pasar mencegah puluhan ribu kematian ketika FDA menemukan bahwa Vioxx – obat arthritis yang diresepkan untuk lebih dari 80 juta pasien di seluruh dunia – meningkatkan risiko serangan jantung dua kali lipat. Namun, biaya peraturan yang bernilai miliaran dolar berarti bahwa hanya perusahaan besar yang dapat bersaing, dan pengobatan yang bermanfaat untuk penyakit langka, yang mungkin paling baik ditangani oleh bioteknologi kecil, masih belum dikembangkan.

Pengawasan yang ketat mengatasi masalah ini, memperluas persyaratan dan biaya dengan kerugian yang terbukti. Asisten AI dengan tingkat kesalahan rendah akan menerima lebih banyak pengawasan. Tarif yang lebih tinggi memicu perbaikan yang diperlukan. Masalah terus-menerus? Tarik dari pasaran sampai diperbaiki. Perusahaan memperbaiki sistem mereka untuk bertahan dalam bisnis atau menarik diri. Inovasi terus berlanjut, namun kini ada lebih banyak tanggung jawab.

Manajemen yang bertanggung jawab tidak bisa bersifat sukarela. Begitu Anda menciptakan sesuatu yang kuat, Anda harus mengambil tanggung jawab atasnya. Pertanyaannya bukanlah apakah akan membangun sistem AI yang canggih – kita sudah membangunnya. Pertanyaannya adalah apakah kita memerlukan pengelolaan yang hati-hati seperti yang dibutuhkan oleh sistem tersebut.

Kerangka kerja farmasi – standar pelatihan yang diatur, pengujian terstruktur, pemantauan berkelanjutan – menawarkan model yang telah terbukti untuk teknologi penting yang tidak dapat kita prediksi sepenuhnya. Pelajaran yang diberikan Shelley bukanlah tentang kreativitas. Ini tentang apa yang terjadi ketika penciptanya pergi. Dua abad kemudian, ketika adaptasi Del Toro mencapai jutaan orang pada bulan ini, pelajaran yang bisa diambil masih tetap penting. Saat ini, dengan penyebaran kecerdasan buatan yang pesat di masyarakat, kita mungkin tidak memiliki kesempatan lagi untuk memilih jalan lain.

Dov Greenbaum adalah profesor hukum dan direktur Institut Zvi Meitar tentang Implikasi Hukum Teknologi Berkembang di Universitas Reichman di Israel. Mark Gerstein adalah Profesor Informatika Biomedis Albert L. Williams di Universitas Yale.