Apa yang sebenarnya Anda rasakan? – Robin Hanson – Beragampengetahuan

Otak manusia dapat memandu perilaku kita dengan memasukkan “pemrosesan sinyal” yang kompleks antara input sensorik di mata, telinga, dll. Untuk mengendalikan tangan, mulut, dll. Fisikawan kami (& ahli kimia, ahli biologi, ahli biologi dan ahli saraf) memiliki pemahaman yang cukup lengkap tentang proses fisik tingkat rendah yang terlibat, yang cukup umum, dan bahwa pengaruh eksternal mungkin hanya memiliki efek acak kecil pada hasil otak. Selain itu, seperti kebanyakan sistem pemrosesan sinyal yang dirancang (seperti TV, ponsel, jam tangan), otak kita Ya Bertujuan untuk berfluktuasi dengan mantap dalam detail tingkat rendah.

Secara introspektif, kami pikir kami memiliki perasaan jelas terkait dengan proses otak. Kami merasa sangat kuat tentang apa yang kami lihat, sentuh, harapan dan rencana. Banyak sarjana percaya bahwa mereka dapat membayangkan kontrafaktual otak (“zombie filosofis”) yang mengalami proses fisik yang sama persis dan menghasilkan hasil, termasuk otak yang mengatakan memiliki perasaan khusus, tanpa otak. nyatanya Memiliki perasaan yang relevan.

Selain itu, kebanyakan orang melihat semua proses fisik yang bukan hewan, termasuk Semua AI sejauh ini memiliki perasaan yang diungkapkan melibatkan nol perasaan internal yang sebenarnya ini. Oleh karena itu, para sarjana ini percaya bahwa manusia memiliki rasa kritis tentang fakta “non-fisik” tambahan tentang alam semesta yang perlu dijelaskan. Bahkan, ini adalah bukti utama yang diberikan oleh klaim bahwa alam semesta kita lebih dari sekadar fisika.

Perhatikan bahwa jenis dan konten perasaan kita dihitung oleh proses otak kita. Satu-satunya hal tambahan di sini mungkin keberadaan perasaan non-fisik ini, bukan keberadaan konten. Juga, perhatikan bahwa integritas pemahaman kita tentang fisika proses otak berarti bahwa fakta non-fisik tambahan ini tidak bisa benar-benar lokal alasan Karena kami mengklaim memiliki lebih banyak perasaan daripada secara fisik. Jelas, bahkan jika seleksi alam salah, seleksi alam akan membuat klaim seperti itu. Tapi itu tidak berarti kita salah. (Meskipun memang direkomendasikan.)

Dalam beberapa jajak pendapat baru -baru ini, saya menemukan bahwa sebagian besar dari kita tidak berpikir Ajisyaitu, pada sebagian besar tugas, lebih baik daripada manusia, dan bahkan memiliki perasaan ini, bahkan AIS Lebih baik Dalam sebagian besar tugas emosional, atau Budaya Kelas Dunia. Kami juga tidak bisa ditiru AI Einstein atau MLK Sangat bagus, akan ada perasaan. Tapi kebanyakan orang memikirkan sel simulasi Otak orang tertentu akan memiliki perasaan nyata. Kebanyakan orang telah menonton film atau TV yang menggambarkan robot atau android memikirkan “Jika makhluk bertindak seperti itu di sekitar saya, saya akan berpikir itu sebenarnya Merasa Itu mengekspresikan emosi ”.

Sekarang, sensasi non-material juga tidak menyebabkan gerakan fisik petunjuk Kami tidak akan pernah mendapatkan data empiris fisik yang terasa ketika hal -hal fisik di alam semesta kami relevan. Oleh karena itu, kita harus bergantung pada intuisi atau argumen teoretis dari kasus tertentu. Misalnya, jika kita berpikir bahwa laporan sensasi manusia biasanya benar, kita dapat menggunakannya untuk menyimpulkan ketika manusia merasakan. Dan kita sering menebak bahwa ketika hewan serupa memiliki perilaku serupa yang kita lakukan, mereka mungkin juga memiliki perasaan yang sama.

Namun, kami enggan memperluas metode ini ke perangkat buatan. Karena itu, kita menghadapi masalah yang sulit tetapi penting: Apa rasanya peralatan buatan atau makhluk alien? Ini akan sangat penting ketika sebagian besar dari kita benar -benar merasa lebih tentang makhluk yang benar -benar merasakan daripada dunia yang meniru makhluk buatan, yang kita kaitkan dengan perasaan nyata.

Inilah sebabnya kami berharap dapat melakukan lebih banyak penelitian tentang topik ini. Di yang terdekat pemungutan suara Saya menemukan bahwa responden rata -rata ingin meningkatkan dana mereka dari tingkat sekitar $ 100 juta/tahun hari ini menjadi 18 kali menjadi sekitar $ 1,8 miliar/tahun. Tentu saja, jika kita ingin mendapatkan kemajuan penelitian darinya, daripada afiliasi akademik yang biasa dengan kesan sertifikat, maka kita harus menggunakan metode pendanaan yang efektif dalam proses seperti hadiah.

Salah satu pendekatan teoretis adalah mencari meta-hukum atau aturan yang paling sederhana bahwa alam semesta dapat menentukan hal-hal fisik mana yang dirasakan ketika, konsisten dengan keterbatasan yang selalu dirasakan manusia.

Misalnya, mungkin: Semua perangkat dan makhluk benar -benar akan merasakan otak mereka akan merasakan perasaan mereka. Untuk membuat aturan yang jelas ini, kita membutuhkan cara untuk secara objektif mengidentifikasi otak di dunia fisik dan keadaan internal mana yang menjadi “perasaan” mereka. Tetapi jika perhitungan otak tidak tahu apa rasanya, tidak apa -apa. Manusia selalu merasa tidak jelas.

Pendekatan ini tidak akan benar seperti Nick Chater Pikiran datar. Ini juga menunjukkan bahwa LLM hari ini sebenarnya merasakan emosi yang mereka ungkapkan.

Sayangnya, kebanyakan orang tampaknya percaya bahwa beberapa robot fiksi atau android sepertinya benar -benar seperti itu, menunjukkan bahwa kebanyakan orang mungkin intuisi di sini tanpa aturan teoretis yang diterima secara luas. Dan, karena AI mungkin sama baiknya dengan mengekspresikan perasaan, manusia dapat mengaitkan perasaan dengan AI yang mereka sukai dan ingin menghormati saat melihat orang yang tidak mereka sukai dan berharap untuk tidak menghormati kurangnya perasaan. Fakta bahwa manusia sering dapat melihat manusia berkelahi atau diperbudak oleh manusia menunjukkan bahwa kita memiliki kemampuan hebat untuk tidak menghormati mereka yang ingin menyalahgunakan.

(Catatan: Ada sejumlah besar literatur tentang topik terkait, beberapa di antaranya dirangkum Di Sini)