Produk beragampengetahuan didukung oleh Meta Llama 3.1 – Beragampengetahuan

Yuan Yangtuo 3.1

Menyusul peluncuran model Llama 3 pada 18 April 2024, Meta mengumumkan bahwa tujuan masa depannya adalah menjadikan Llama 3 multibahasa dan multimodal, dengan konteks yang lebih panjang, dan terus meningkatkan kinerja keseluruhan kemampuan LLM seperti penalaran dan pengkodean.

Pada hari Selasa, Meta merilis seri model bahasa besar (LLM) multibahasa Llama 3.1, menandai kemajuan signifikan menuju tujuan tersebut, termasuk konteks yang lebih panjang, peralatan yang lebih baik, dan kemampuan multibahasa.

Model Llama 3.1 diberi tag di bawah Lisensi Model Terbuka Kustom Meta dan mewakili langkah penting dalam membuat inovasi AI mudah diakses untuk penelitian dan aplikasi komersial.

Pada versi terbaru, bersamaan dengan diperkenalkannya 405B, Meta juga memperkenalkan versi upgrade dari model 8B dan 70B. Model ini menggunakan alat terbaru, memiliki panjang konteks 128K, dan memiliki kemampuan inferensi yang lebih efisien.

Hasilnya, model ini dapat menangani kasus penggunaan yang lebih kompleks, termasuk peringkasan teks yang panjang, agen percakapan multibahasa, dan asisten pengkodean.

Daftar isi:

• Model unta 3.1 tersedia

1. Meta Unta 3.1-405B
2. Meta Unta 3.1-70B
3. Meta Unta 3.1-8B

• Kompatibilitas model Llama 3.1 dengan produk beragampengetahuan

1. Chatbot AI Magento 2 menggunakan LLM sumber terbuka

Meta Llama 3.1 model yang tersedia:

Model 405B adalah keunggulan Llama 3.1. Seperti namanya, ini berisi 405 miliar parameter, melebihi Nemotron-4-340B-Instruct milik NVIDIA. Sekarang telah menjadi LL.M. open source terbesar di dunia pada saat itu.

Llama-3.1-405B bersaing dengan model AI terbaik dalam keterampilan mutakhir seperti akal sehat, kemampuan manuver, matematika, penggunaan alat, dan terjemahan bahasa.

Meta mengklaim bahwa model 405B dilatih pada lebih dari 15 triliun token menggunakan 16.000 GPU H100, menjadikannya model Llama pertama yang dilatih pada skala ini.

Llama-3.1-405B dibangun di atas arsitektur Transformer khusus dekoder standar, desain umum untuk banyak model bahasa skala besar yang sukses.

Arsitektur Llama-3.1-405B didasarkan pada arsitektur Transformer khusus dekoder tradisional yang umum di banyak LLM sukses, tetapi dengan beberapa penyesuaian kecil. Penyesuaian halus ini meningkatkan stabilitas dan performa model selama pelatihan.

Meskipun Llama-3.1-405B adalah model yang sangat kuat, sulit bagi pengembang biasa untuk menggunakannya karena banyaknya sumber daya komputasi dan keterampilan yang dibutuhkan.

Model Llama-3.1-70B memberikan keseimbangan antara kinerja dan efisiensi, menjadikannya pilihan yang sangat baik untuk berbagai aplikasi.

Model ini unggul dalam peringkasan teks, klasifikasi teks, penalaran, pemodelan bahasa, pembuatan kode, dan mengikuti instruksi.

Ini mengungguli model berukuran serupa lainnya dalam berbagai tes benchmark. Karena ukurannya yang diperkecil, pengelolaannya lebih mudah pada perangkat keras standar.

Model Llama-3.1-8B mengutamakan kecepatan dan konsumsi sumber daya yang rendah, sehingga ideal untuk perangkat dengan sumber daya komputasi terbatas.

Meskipun ukurannya lebih kecil, ia memberikan kinerja kompetitif dalam berbagai tugas dibandingkan model berukuran serupa lainnya.

Kompatibilitas model Llama 3.1 dengan produk beragampengetahuan:

Magento AI Chatbot yang menggunakan ekstensi LLM open source memungkinkan pelanggan menggunakan chatbot bertenaga AI di etalase mereka.

Pelanggan akan menggunakan chatbot AI virtual untuk mendapatkan informasi tentang produk dan menanyakan pertanyaan apa pun.

Chatbot ini kompatibel dengan semua model Llama-3.1, memungkinkan Anda meningkatkan chatbot Anda dengan LLM terbaru Meta yang kuat.

Chatbot AI akan mendapatkan keuntungan dari peningkatan ukuran konteks, dukungan multi-bahasa, dan kemampuan penalaran dalam model Llama 3.1. Performa chatbot AI secara keseluruhan ditingkatkan dengan kecepatan lebih cepat, dukungan multibahasa, dan kemampuan penalaran.