Risiko AI, lagi – Beragampengetahuan

Model bahasa besar seperti ChatGPT telah membuat banyak orang ketakutan akhir-akhir ini, dan umpan Twitter saya penuh dengan kekhawatiran yang mengatakan betapa tidak bertanggung jawabnya organisasi yang membuat dan merilis model seperti itu. Karena, kata mereka, sistem seperti itu bisa membunuh kita semua. Dan, seperti yang dikatakan beberapa peneliti bahwa mereka sedang berupaya untuk mengontrol hal-hal seperti itu dengan lebih baik, orang yang khawatir mengatakan bahwa kita harus mengatur untuk memperlambat/menghentikan kemajuan AI sampai para peneliti ini mencapai tujuan mereka. Meskipun saya telah menulis tentang ini berkali-kali sebelumnya, sepertinya sudah waktunya untuk menegaskan kembali posisi saya.

Pertama, jika tren masa lalu berlanjut, ekonomi dunia dapat memasuki masa transisi yang berlangsung sekitar satu dekade selama beberapa abad berikutnya, setelah itu dapat berlipat ganda setiap beberapa bulan atau lebih cepat. Ini sangat kontras dengan penggandaan 15 tahun kita saat ini. waktu. (Penggandaan waktu relatif stabil karena inovasi biasanya kecil dibandingkan dengan ekonomi dunia.) Alasan yang paling mungkin untuk pergeseran ini tampaknya adalah pergeseran ke ekonomi yang dipimpin kecerdasan buatan (AI). Mungkin dalam bentuk simulasi otak, tapi juga dalam bentuk yang lebih asing. Dalam satu atau dua tahun sejak saat itu, pergeseran lain ke model pertumbuhan yang lebih cepat dapat terjadi.

Kedua, sulitnya koordinasi dan kontrol. Saat ini, pemimpin organisasi sering mendapatkan uang sewa dari posisi mereka dengan mengorbankan pemilik, pemasok, dan pelanggan organisasi. Hal ini lebih banyak terjadi di organisasi nirlaba dan organisasi nirlaba yang dimiliki publik daripada organisasi nirlaba yang dimiliki swasta. Pemimpin politik dan militer juga mendapatkan uang sewa dan terkadang mengambil alih negara melalui kudeta. Sementara sewa kepemimpinan bukan satu-satunya masalah kontrol, itu bisa menjadi cara yang baik untuk melacak masalah tersebut. Jadi tingkat sewa yang didapat para pemimpin ini merupakan indikasi kasar dari sejauh mana masalah kendali kita. Mereka yang secara budaya terasing dari pemimpinnya, seperti orang miskin dan penduduk Dunia Ketiga, seringkali membayar sewa yang lebih tinggi.

Saat ini, sewa semacam itu tidak sepele, tetapi meskipun demikian, persaingan antar organisasi dapat ditoleransi. Artinya, kami terutama mengontrol organisasi kami. Padahal organisasi besar sebenarnya “superintelligent” dibandingkan dengan individu manusia.

Ketiga, mungkin ada hambatan tambahan untuk memperlambat usaha organisasi di masa depan kontrol biologis manusia. Manusia biologis secara budaya lebih jauh, lebih lambat, dan kurang mampu daripada AI mereka. AI non-em mungkin lebih asing dan karena itu secara budaya lebih terasing. Namun, bahkan menggandakan atau melipatgandakan sewa kendali AI tampaknya dapat diterima, menawarkan masa depan yang kaya dan berkembang bagi manusia biologis semacam itu. Ya, beberapa bisnis secara berkala mengalami kudeta. Namun jika, seperti hari ini, setiap bisnis hanyalah sebagian kecil dari dunia masa depan ini, maka manusia biologis secara keseluruhan akan baik-baik saja. Ems, jika ada, bisa berbuat lebih baik.

Tentu saja, pemilik bisnis masa depan seperti itu, apakah manusia biologis, mereka, atau lainnya, harus mempertimbangkan cara terbaik untuk mengendalikan bisnis semacam itu untuk memangkas biaya sewa pemimpin dan biaya lain yang terkait dengan kontrol yang tidak sempurna. Namun, upaya ini tampaknya paling efektif bila didasarkan pada pengalaman aktual dengan sistem lapangan tertentu. Misalnya, pada tahun 1500, hanya sedikit orang yang dapat mengetahui cara mengontrol organisasi, senjata, atau teknologi lain di abad ke-20. Oleh karena itu, karena kita sekarang hanya tahu sedikit tentang detail perusahaan, pemimpin, atau sistem berbasis AI di masa depan, kita terutama harus menghemat sumber daya hari ini untuk upaya di masa depan, atau memfokuskan upaya inovasi kita pada peningkatan kontrol atas perusahaan yang sudah unggul. Misalnya melalui pasar keputusan.

Namun, sebagian besar pencemas tersebut menolak analisis di atas karena didasarkan pada ekspektasi kelanjutan pola historis di mana risiko dan inovasi relatif kecil terhadap ekonomi dunia. Sebaliknya, mereka menunjukkan, ada kemungkinan bagi bisnis AI kecil untuk menemukan inovasi yang sangat kuat yang memungkinkannya untuk tiba-tiba “meledak”, yaitu, meledak dari kekuatan kecil dibandingkan dengan ekonomi dunia menjadi lebih kuat daripada ekonomi dunia. ekonomi dunia. Seluruh dunia disatukan. (Termasuk semua AI lainnya.)

Situasi mengharuskan bisnis untuk mencegah bisnis lain menggunakan inovasi utamanya selama periode eksplosif ini. Ini juga membutuhkan sistem baru yang lebih kuat ini tidak hanya lebih pintar di sebagian besar bidang penting, tetapi juga sangat mampu mengelola masalah koordinasi internal yang sekarang sangat besar. Ini membutuhkan sistem bukan hanya alat, tetapi “agen” yang lengkap dengan rencana, tujuan, dan tindakannya sendiri.

Selain itu, sementara sistem telah diuji dengan baik sebelum ledakan ini, seperti kebanyakan sistem komputer saat ini untuk memastikan bahwa perilakunya selaras dengan tujuan pemiliknya dalam domain penggunaannya, Perilaku pasca ledakannya hampir tidak selaras secara maksimal. . Mungkin itu akan menyebabkan kepunahan manusia. Proses pengujian dan pemantauan yang biasa akan gagal untuk melihat masalah atau berhenti ketika itu terjadi, baik karena ledakan terjadi terlalu cepat, atau karena sistem membuat dan menyembunyikan niat berbeda dari pemiliknya sebelum ledakan.

Meskipun saya setuju bahwa ini adalah skenario yang mungkin secara logis dan tidak dikesampingkan oleh apa yang kita ketahui, saya kecewa melihat begitu banyak orang memberikan tingkat kepercayaan yang tinggi karena jauh dari pengalaman kami sebelumnya. Ya, dalam arti tertentu, revolusi manusia, pertanian, dan industri bisa jadi merupakan hasil dari satu inovasi mendasar. Tapi ini adalah tiga inovasi terbesar dalam sejarah manusia. Dalam kasus tersebut, sebagian besar dari dunia sebelumnya yang relevan meledak bersama, bukannya sebagian kecil yang tiba-tiba memusnahkan semua bagian lainnya.

Selain itu, kira-kira durasi sepuluh tahun dari periode transisi berikutnya tampaknya diproyeksikan berdasarkan tren sebelumnya banyak Praktik pengujian sistem komputer mainframe standar saat ini memerlukan perhatian pada pengaturan waktu masalah penyelarasan. Perhatikan bahwa chatbot AI yang mengesankan baru-baru ini sangat berbeda dari sistem yang bersangkutan di sini: agen serba guna yang sangat luas dengan niat tersembunyi untuk peningkatan diri. Jadikan sekarang waktu yang sangat aneh untuk mengeluh tentang sistem AI baru yang dapat membunuh kita semua.

Anda mungkin berpikir bahwa orang akan belajar dari sejarah ledakan kecemasan dan kekhawatiran kita sebelumnya tentang otomatisasi, yang terjadi kira-kira setiap 30 tahun sejak setidaknya tahun 1930-an. Setiap kali, demonstrasi baru yang mengesankan mengungkapkan kemampuan yang belum pernah terjadi sebelumnya, memicu kesibukan dan diskusi, dengan banyak yang kemudian menyuarakan ketakutan bahwa akan segera terjadi ledakan cepat yang akan mengotomatiskan semua tenaga manusia. Tentu saja, mereka salah besar.

Para pencemas sering menggunakan kalkulus tipe taruhan Pascal, di mana setiap risiko kecil dari skenario mimpi buruk semacam itu dapat membenarkan pemotongan drastis dalam kemajuan AI. Tapi itu tampaknya mengasumsikan bahwa mengamankan kemajuan keseluruhan masa depan yang sama relatif mudah, hanya tersebar dalam periode waktu yang lebih lama. Sebaliknya, saya khawatir bahwa pertumbuhan ekonomi dan kemajuan teknologi secara keseluruhan lebih rapuh dari itu. Pertimbangkan bagaimana tujuh dekade peraturan yang diilhami oleh skenario mimpi buruk tenaga nuklir telah mencegah sebagian besar potensinya untuk terwujud. Saya juga telah melihat kemajuan pada banyak teknologi lain yang menjanjikan sebagian besar terhenti, tidak hanya melambat, karena peraturan yang dipicu oleh ketakutan akan ambiguitas. Nyatanya, menurut saya kemajuan global melambat karena regulasi yang disebabkan oleh rasa takut yang berlebihan.

Selama beberapa abad terakhir, dunia telah berbuat relatif sedikit untuk meramalkan masalah teknologi masa depan dan mempersiapkannya sebelum melihat versi konkretnya. Dan saya hanya tidak percaya dunia akan menjadi tempat yang lebih baik jika kita terlalu memperlambat kemajuan teknologi untuk mencoba dan bersiap seperti ini. Terutama mengingat tingkat kontrol terpusat yang mungkin diperlukan untuk menerapkan kebijakan perlambatan tersebut.

Seperti yang saya bahas di atas, tampaknya terlalu dini untuk mengetahui cara mengontrol sistem AI di masa depan, dan kita hanya tahu sedikit tentangnya. Jadi, ketika dihadapkan dengan risiko ketakutan kita yang pada dasarnya menghentikan kemajuan, saya lebih suka melanjutkan jalur kita saat ini dan bekerja lebih keras untuk mengontrol karena kita lebih baik melihat masalah kontrol serius tertentu yang perlu dikelola.

ekonomi kreatif, ilmu ekonomi adalah, pelaku ekonomi
, kegiatan ekonomi adalah, sistem ekonomi

#Risiko #lagi