Hal aneh terjadi ketika Elon Musk men-tweet tentang salah satu kolom saya – Beragampengetahuan

Semuanya dimulai dengan artikel tentang dewa kecerdasan buatan.

Pada 2017, seorang insinyur bernama Anthony Levandowski menyerahkan dokumen untuk organisasi nirlaba baru bernama Roads of the Future. Levandowski adalah sosok yang terkenal di dunia teknologi karena dia ahli dalam mobil self-driving.

Perusahaan yang sekarang sudah mati memiliki semua bakat untuk menjadi agama. Pada saat itu, saya menulis sebuah artikel tentang bagaimana kecerdasan buatan yang sangat cerdas dapat membuat orang memujanya, bersujud di hadapan sesuatu yang begitu kuat yang dapat mengendalikan hidup kita dan menentukan masa depan kita. Perusahaan baru hanyalah contoh terbaru dan paling terlihat.

Padahal, pernyataan misi Future Path sudah menyatakan tujuannya: “Untuk mengembangkan dan memfasilitasi realisasi ketuhanan berbasis kecerdasan buatan melalui pemahaman dan pemujaan terhadap ketuhanan.”

Saat itu, saya menulis sebuah artikel tentang bagaimana dewa AI ini akan menulis sebuah kitab suci, membuat moto untuk diikuti, dan menentukan bagaimana kita harus hidup. “Itu mungkin memberi tahu Anda apa yang harus dilakukan setiap hari, atau ke mana harus bepergian, atau bagaimana menjalani hidup Anda,” tulis saya. Saya tidak dapat lagi mengakses lalu lintas ke artikel itu, tetapi saya ingat itu adalah salah satu pemikiran yang paling banyak dibaca di situs tahun itu.

Ketika artikel itu menjadi viral, ratusan orang mulai berkomentar di saluran media sosial, menulis artikel mereka sendiri, men-tweet tautan, dan mau tidak mau mengkritik apa yang saya tulis. Salah satu tweet penentang datang dari Elon Musk. Inilah tweet yang dimaksud:

Seperti yang bisa Anda bayangkan, artikel opini populer saya kemudian menjadi nuklir. Saya masih menerima email yang menanyakan pendapat saya tentang karya itu. Yang diperlukan hanyalah tweet untuk mewujudkannya. (Sayangnya, hari-hari men-tweet mungkin sudah berakhir, yang berarti kita terjebak dengan TikTok.)

Tentu saja, Musk tidak mengkritik artikel itu sendiri, meskipun tweet tersebut dapat dengan mudah dibaca seperti itu. Sebaliknya, dia mempertanyakan gagasan tentang seseorang yang menciptakan kecerdasan super yang kuat (misalnya, entitas yang tahu segalanya yang mampu membuat keputusan seperti manusia). Di tangan yang salah, AI bisa menjadi sangat kuat dan cerdas sehingga orang akan mulai memujanya.

Apakah ada hal aneh lainnya? Saya percaya prediksi dalam artikel itu akan menjadi kenyataan – bahwa AI super cerdas akan muncul yang dapat mengarah pada agama baru.

Kita sekarang hidup di zaman di mana kecerdasan buatan dapat menulis seluruh artikel, membuat foto dan video yang tampak nyata, membantu kita memprogram aplikasi dan situs web, meniru suara kita, dan bahkan memasukkan kita ke dalam video. Tidak berlebihan untuk mengatakan bahwa kecerdasan buatan yang kuat dapat muncul dalam 10-20 tahun ke depan, dan orang pada akhirnya dapat mulai menyembah dewa digital.

Sekarang bukan waktunya untuk panik, ini saatnya rencana. Masalah sebenarnya adalah bahwa AI yang sangat cerdas dapat berpikir lebih cepat dan lebih luas daripada manusia mana pun. Robot AI tidak tidur atau makan. Mereka tidak memiliki hati nurani. Mereka dapat membuat keputusan dalam sepersekian detik sebelum ada yang punya waktu untuk bereaksi. Sejarah menunjukkan bahwa ketika ada sesuatu yang begitu kuat, orang cenderung memujanya. Ini adalah pertanyaan yang mengkhawatirkan, terlebih lagi hari ini.

Sulit untuk memprediksi kapan AI akan muncul, terlihat sangat kuat sehingga siapa pun akan menyukainya. Hal yang gila adalah bahwa AI mungkin telah mencapai titik ini tanpa kita sadari.