Harari dan bahaya kecerdasan buatan – Beragampengetahuan

Yuval Noah Harari, sejarawan, filsuf dan dosen di Hebrew University of Jerusalem ekonom (“Yuval Noah Harari berpikir kecerdasan buatan telah menginvasi sistem operasi peradaban,” 28 April 2023). Dia membuat argumen yang lebih kompleks tentang bahaya kecerdasan buatan daripada kepanikan Luddite biasa. Beberapa kutipan:

Lupakan surat-surat sekolah. Pikirkan pemilihan presiden AS berikutnya pada tahun 2024, dan coba bayangkan dampak alat kecerdasan buatan yang dapat digunakan untuk memproduksi konten politik secara massal, berita palsu, dan kitab suci untuk aliran sesat baru. …

Meskipun sejauh yang kita tahu semua sebelumnya [QAnon’s] Tetesan air diciptakan oleh manusia, dan robot hanya membantu menyebarkannya.Di masa depan, kita mungkin akan melihat kultus pertama dalam sejarah yang teks pemujaannya ditulis oleh kecerdasan non-manusia. …

Sama sekali tidak ada gunanya bagi kami untuk menghabiskan waktu mencoba mengubah opini publik tentang bot AI yang dapat mengasah informasinya dengan sangat tepat sehingga memiliki peluang bagus untuk memengaruhi kami.

Melalui penguasaan bahasa, kecerdasan buatan bahkan dapat menjalin hubungan intim dengan orang-orang, dan menggunakan kekuatan keintiman untuk mengubah cara pandang dan pandangan dunia kita. …

Apa yang akan terjadi pada perjalanan sejarah ketika AI mengambil alih budaya dan mulai membuat cerita, melodi, hukum, dan agama? …

Jika kita tidak hati-hati, kita bisa terperangkap di balik selubung ilusi, tidak mampu membuka—atau bahkan menyadarinya. …

Sama seperti perusahaan farmasi tidak dapat merilis obat baru sebelum menguji efek samping jangka pendek dan jangka panjang, perusahaan teknologi tidak boleh merilis alat AI baru sampai aman. Kami membutuhkan teknologi baru yang setara dengan Food and Drug Administration.

Poin terakhir itu tentu saja bukan poin terlucunya: menurut saya itu seperti propaganda robot AI yang mengerikan.Kepercayaan pada negara ini mengingatkan saya pada tulisan New Dealer Rexford Guy Tugwell pada tahun 1932 Tinjauan Ekonomi Amerika artikel:

Industri baru tidak muncul seperti industri otomotif; mereka harus diramalkan, diperdebatkan, dan terlihat seperti fitur ekonomi yang diinginkan secara keseluruhan sebelum mereka dapat dimasuki.

Kami tidak tahu seberapa dekat AI dengan kecerdasan manusia. Friedrich Hayek, yang mungkin belum pernah didengar oleh Harari, berpendapat: “Pemikiran dan budaya berkembang secara bersamaan daripada berurutan” (dari epilognya Hukum, Legislasi dan Kebebasan; garis bawahnya). Prosesnya memakan waktu ratusan ribu tahun, dan pikiran buatan tidak mungkin membuat kemajuan di “era Trump” seperti yang disebut Peter Navarro. Meningkatkan AI seperti yang kita tahu membutuhkan banyak sumber daya. ChatGPT-4 mungkin menghabiskan biaya $100 juta untuk berlatih, menghabiskan banyak daya komputasi dan listrik. Dan biaya tumbuh lebih cepat daripada kecerdasan. (Lihat “Model AI yang besar dan kreatif akan mengubah kehidupan dan pasar tenaga kerja”, di ekonom, 22 April 2023. ) Saya pikir diragukan apakah pikiran buatan akan berkata “Saya berpikir, maka saya ada” seperti yang dilakukan Descartes (Cogito ergo sum), kecuali untuk menjiplak filsuf Prancis.

Inilah yang akan saya simpan atau kurangi dari argumen Harari. Kita bisa melihat sejarah pemikiran manusia sebagai perlombaan untuk menemukan rahasia alam semesta, termasuk penciptaan sesuatu yang menyerupai kecerdasan baru-baru ini, sambil menjalankan perlombaan pendidikan agar massa tidak menjadi mangsa penjual minyak ular, sang tiran. Sejauh AI mendekati kecerdasan atau wacana manusia, pertanyaannya adalah apakah manusia akan cukup pintar secara intelektual pada saat itu untuk tidak ditipu dan didominasi oleh robot atau tiran yang menggunakannya. Jika pertandingan pertama dimenangkan sebelum yang kedua, masa depan umat manusia akan suram.

Sekitar 15% pemilih AS percaya pemilu 2020 telah dicuri dengan “senjata merokok”, meskipun persentase itu tampaknya menurun. Keyakinan akan “keadilan sosial” bahkan lebih di seluruh dunia maju, apalagi di belahan dunia lain, dalam cengkeraman kesukuan yang lebih primitif. Menurut Harari, gagasan bahwa manusia mungkin jatuh cinta pada robot AI seperti kalkun yang jatuh cinta pada umpan ayam sangat menarik.

Penghapusan liberalisme klasik yang lambat namun berkelanjutan selama abad yang lalu, kegelapan intelektual yang tampaknya turun pada abad ke-21, dan kebangkitan pemimpin populis, “Raja Demokrasi”, menunjukkan perlombaan untuk menciptakan dewa-dewa baru. telah mendapatkan lebih banyak momentum daripada kontes pendidikan keaksaraan, pengetahuan dan kebijaksanaan. Jika benar, masalah nyata akan muncul, seperti yang ditakuti Harari. Namun, solusi nyatanya untuk membiarkan negara (dan orang kuat mereka) mengendalikan AI didasarkan pada ilusi tragis bahwa itu akan melindungi orang dari robot, daripada mengadu robot melawan individu yang tidak patuh. Jika AI gratis dan dapat dibagikan di antara individu, perusahaan, pemerintah (terdesentralisasi), dan institusi lain, risikonya pasti akan jauh lebih rendah.