OpenAI sekarang adalah semua yang dijanjikan untuk tidak menjadi: perusahaan, sumber tertutup, dan nirlaba – Beragampengetahuan

OpenAI berada di pusat perlombaan senjata chatbot, dengan peluncuran publik ChatGPT dan kemitraan Microsoft bernilai miliaran dolar mendorong Google dan Amazon untuk segera menerapkan AI dalam produk mereka. OpenAI juga bekerja sama dengan Bain untuk menghadirkan pembelajaran mesin ke dalam operasi Coca-Cola, dengan rencana untuk memperluas ke mitra korporat lainnya.

Tidak diragukan lagi bahwa AI generatif OpenAI adalah bisnis besar saat ini. Tidak selalu direncanakan seperti itu.

CEO OpenAI Sam Altman menerbitkan posting blog pada hari Jumat berjudul “The Plan for AGI and Beyond.” Di dalamnya, dia menyatakan bahwa kecerdasan umum buatan (AGI) perusahaannya—kecerdasan mesin tingkat manusia yang belum mendekati, dan banyak yang meragukannya—akan bermanfaat bagi seluruh umat manusia dan “mungkin Memberdayakan semua orang dengan kemampuan baru yang luar biasa.” Altman menggunakan bahasa yang luas dan idealis untuk menyatakan bahwa pengembangan kecerdasan buatan tidak boleh berhenti dan bahwa “masa depan umat manusia harus ditentukan oleh manusia”, mengacu pada perusahaannya sendiri.

Posting blog ini dan tindakan terbaru OpenAI — yang semuanya terjadi pada puncak siklus hype ChatGPT — adalah pengingat betapa nada dan misi OpenAI telah berubah sejak didirikan sebagai organisasi nirlaba. Sementara perusahaan selalu menantikan masa depan di mana AGI ada, itu dibangun di atas janji, termasuk tidak mengejar keuntungan dan bahkan membagikan kode yang dikembangkannya secara gratis, yang tidak dapat ditemukan hari ini.

Didirikan pada tahun 2015, OpenAI adalah organisasi riset nirlaba yang didirikan bersama oleh Altman, Elon Musk, Peter Thiel, dan salah satu pendiri LinkedIn Reid Hoffman, di antara para pemimpin teknologi lainnya. Dalam pernyataan pendiriannya, perusahaan menyatakan komitmennya untuk meneliti “untuk memajukan kecerdasan digital dengan cara yang memiliki potensi terbesar untuk memberi manfaat bagi seluruh umat manusia, tidak dibatasi oleh kebutuhan untuk menghasilkan keuntungan finansial.” Blog tersebut menyatakan, “Karena penelitian kami telah tidak ada kewajiban finansial, kami dapat lebih fokus pada dampak positif pada kemanusiaan,” dan semua peneliti didorong untuk berbagi “makalah, posting blog atau kode, dan paten kami (jika ada)” akan dibagikan kepada dunia. ”

Sekarang, delapan tahun kemudian, kami menghadapi perusahaan yang tidak transparan atau didorong oleh pengaruh manusia yang positif, tetapi, seperti yang dikatakan oleh banyak komentator, termasuk salah satu pendiri Musk, didorong oleh kecepatan dan keuntungan. Perusahaan mengeluarkan teknologi yang, terlepas dari kekurangannya, siap untuk meningkatkan beberapa elemen otomatisasi tempat kerja dengan mengorbankan pekerja manusia. Google, misalnya, menyoroti keuntungan efisiensi dari AI yang secara otomatis menyelesaikan kode saat memberhentikan ribuan karyawan.

Ketika OpenAI pertama kali dimulai, diharapkan untuk melakukan penelitian AI mendasar secara terbuka, dengan tujuan yang belum diputuskan.salah satu pendiri Greg Bockman memberi tahu new yorker, “Tujuan kami sekarang…adalah melakukan yang terbaik. Ini agak kabur. “Hal ini membuat perusahaan beralih ke sumber daya modal pada tahun 2018 untuk menemukan arah. “Tugas fidusia utama kami adalah untuk kemanusiaan. Kami mengantisipasi kebutuhan untuk mengumpulkan sumber daya yang signifikan untuk mencapai misi kami,” tulis perusahaan itu dalam pembaruan 2018 untuk piagamnya.

Pada Maret 2019, OpenAI melepaskan status nirlaba dan menciptakan divisi “batas laba”, di mana perusahaan sekarang dapat menerima investasi dan menawarkan keuntungan kepada investor hingga 100 kali lipat dari jumlah yang diinvestasikan. Keputusan perusahaan mungkin merupakan hasil dari keinginannya untuk bersaing dengan saingan teknologi besar seperti Google, yang akhirnya menerima investasi $1 miliar dari Microsoft tidak lama kemudian. Dalam posting blog yang mengumumkan pembentukan perusahaan nirlaba, OpenAI terus menggunakan bahasa yang sama seperti yang kita lihat hari ini, mengumumkan misinya untuk “memastikan manfaat kecerdasan umum buatan (AGI) untuk semua.” Seperti yang ditulis Motherboard ketika berita pertama kali tersiar, sulit dipercaya bahwa pemodal ventura dapat menyelamatkan umat manusia ketika keuntungan adalah tujuan utama mereka.

Perusahaan menghadapi serangan balik selama pengumuman tahun 2019 dan peluncuran model bahasa GPT-2 berikutnya. Pada awalnya, perusahaan mengatakan tidak akan merilis kode sumber untuk model yang dilatih karena “kekhawatiran tentang aplikasi teknologi yang berbahaya.” Meskipun hal itu sebagian mencerminkan komitmen perusahaan untuk mengembangkan AI yang bermanfaat, itu juga tidak terlalu “terbuka”. Kritikus bertanya-tanya mengapa perusahaan mengumumkan alat hanya untuk mempertahankannya, dengan alasan itu adalah aksi publisitas. Tiga bulan kemudian, perusahaan merilis model di GitHub, sebuah platform pengkodean sumber terbuka, menyebut langkah tersebut sebagai “landasan penting untuk pelepasan kecerdasan buatan yang bertanggung jawab, terutama dalam konteks model generatif yang kuat.”

Menurut jurnalis investigasi Karen Hao, yang menghabiskan tiga hari di perusahaan pada tahun 2020, budaya internal OpenAI mulai kurang mencerminkan proses pengembangan AI yang berhati-hati dan didorong oleh penelitian dan lebih banyak tentang memimpin, yang mengarah ke tuduhan memicu “kehebohan AI. .” “siklus. “Karyawan sekarang diinstruksikan untuk tetap diam tentang pekerjaan mereka dan mencerminkan piagam perusahaan yang baru.

“Ada ketidakselarasan antara apa yang didukung perusahaan secara publik dan cara kerjanya di balik pintu tertutup. Seiring waktu, persaingan ketat dan tekanan pendanaan yang meningkat menggerogoti filosofi pendirian transparansi, keterbukaan, dan kolaborasi,” tulis Hao.

Namun, untuk OpenAI, peluncuran GPT-2 merupakan kesuksesan dan batu loncatan bagi perusahaan untuk mencapai posisinya saat ini. “Saya pikir itu pasti bagian dari kerangka kisah sukses,” kata Miles Brundage, sekarang kepala penelitian kebijakan, pada sebuah konferensi yang membahas GPT-2. Hal-hal, dan sekarang ada yang mereplikasinya, di sini Ada beberapa alasan mengapa itu bermanfaat. “

Sejak itu, OpenAI tampaknya mempertahankan bagian hype dari formula peluncuran GPT-2, tetapi menghapus keterbukaannya. GPT-3 diluncurkan pada tahun 2020 dan dengan cepat dilisensikan “secara eksklusif” ke Microsoft. Meski perusahaan kini mengincar GPT-4, kode sumber GPT-3 belum dirilis. Publik hanya dapat mengakses model melalui ChatGPT dengan API, dan OpenAI memperkenalkan tingkat berbayar untuk menjamin akses ke model.

OpenAI melakukan ini karena beberapa alasan yang jelas. Pertama adalah uang. “Mengkomersialkan teknologi membantu kami membayar penelitian, keamanan, dan kebijakan AI kami yang sedang berlangsung,” kata perusahaan itu dalam blog pengumuman API-nya. Alasan kedua adalah preferensi yang jelas untuk membantu perusahaan besar. Menurut OpenAI, “sulit bagi siapa pun selain perusahaan besar untuk memanfaatkan teknologi yang mendasarinya”. Terakhir, perusahaan mengklaim bahwa merilis melalui API lebih aman daripada open source karena perusahaan dapat menanggapi kasus penyalahgunaan.

Posting blog AGI Altman pada hari Jumat melanjutkan nada cerah OpenAI, bahkan saat menyimpang lebih jauh dari prinsip-prinsip pendiriannya. Banyak peneliti mengkritik posting blog karena kurangnya kekritisan dan substansi, termasuk kegagalan untuk mendefinisikan AGI secara spesifik.

“Kalian terus memberi tahu kami bahwa AGI sudah dekat, tetapi bahkan tidak ada definisi terpadu di situs web sialan Anda sendiri,” Timnit Gebru Twitter, Seorang ilmuwan komputer telah dipecat dari Google karena menerbitkan makalah mani tentang risiko model bahasa besar, termasuk bias berbahaya dan potensi menggunakannya untuk membodohi orang.

Emily M. Bender, profesor linguistik di University of Washington dan rekan penulis makalah ini, tweet: “Mereka tidak ingin memecahkan masalah praktis di dunia nyata (yang membutuhkan penyerahan kekuasaan). Mereka ingin percaya bahwa mereka adalah dewa yang tidak hanya dapat menciptakan ‘kecerdasan super’ tetapi dengan murah hati melakukannya dengan cara yang ‘konsisten ‘ dengan manusia.”

Posting blog datang pada saat kekecewaan berkembang pada kemajuan chatbots seperti ChatGPT; bahkan Altman memperingatkan bahwa model saat ini tidak cukup baik untuk sesuatu yang signifikan. Apakah AGI tingkat manusia akan tetap ada masih diragukan, tetapi bagaimana jika OpenAI berhasil mengembangkannya? Ada baiknya mengajukan beberapa pertanyaan di sini:

Apakah AI ini akan dibagikan secara bertanggung jawab, dikembangkan secara terbuka, dan bukan untuk keuntungan, seperti yang dibayangkan perusahaan semula? Atau akankah itu dilakukan dengan terburu-buru, dengan banyak kekurangan yang mengganggu, dan terutama untuk menguntungkan OpenAI? Akankah OpenAI mempertahankan sumber tertutup sci-fi di masa mendatang?

Bing chatbot berbasis OpenAI Microsoft telah keluar jalur, berbohong dan mencaci pengguna, dan menyebarkan informasi yang salah. OpenAI juga tidak dapat secara andal mendeteksi teks yang dihasilkan oleh chatbotnya sendiri, meskipun para pendidik semakin khawatir bahwa siswa menggunakan aplikasi tersebut untuk berbuat curang. Sangat mudah bagi orang untuk melakukan jailbreak pada model bahasa, mengabaikan pagar yang dipasang oleh OpenAI di sekitarnya, dan bot mogok saat kata dan frasa acak dimasukkan. Tidak ada yang bisa mengatakan mengapa, tepatnya, karena OpenAI tidak membagikan kode untuk model yang mendasarinya, dan dengan cara tertentu, tidak mungkin OpenAI sendiri sepenuhnya memahami cara kerjanya.

Dengan mengingat semua ini, kita semua harus mempertimbangkan dengan hati-hati apakah OpenAI layak mendapatkan kepercayaan yang diminta dari publik.

OpenAI tidak menanggapi permintaan komentar.