Alibaba membuka sumber Qwen3-Next, model AI lebih pantas dan murah yang boleh dijalankan pada perkakasan pengguna

Model lebih pantas dan murah untuk pembangun dan perusahaan

Alibaba Cloud telah melancarkan keluarga model bahasa besar sumber terbuka di bawah seni bina baharu yang dipanggil Qwen3-Next. Model utamanya, Qwen3-Next-80B-A3B, mempunyai 80 bilion parameter tetapi memperkenalkan pilihan reka bentuk yang membolehkan sistem beroperasi jauh lebih pantas dan pada kos jauh lebih rendah berbanding model Qwen terdahulu. Alibaba berkata latihan model asas baharu itu memerlukan kurang daripada satu persepuluh kuasa pengkomputeran yang digunakan untuk Qwen3-32B, model padat terdahulu yang dilancarkan pada April, sementara siri baharu ini menyamai mutu model Qwen3-235B syarikat yang lebih besar itu dalam banyak tugasan.

Alibaba menyediakan model-model itu kepada pembangun sebagai sumber terbuka, dengan akses muat turun dan API melalui hab model utama serta perkhidmatan awannya sendiri. Syarikat itu meletakkan Qwen sebagai ekosistem pembangun yang berkembang pesat. Strategi itu selari dengan langkah lebih meluas kumpulan AI China menerbitkan model bermutu tinggi yang boleh diperiksa dan dibangunkan oleh pihak lain, sekali gus meluaskan penggunaan tanpa bergantung pada infrastruktur berpusat berskala besar.

Selain dakwaan kecekapan latihan, Qwen3-Next menyasarkan kelajuan dan prestasi konteks panjang ketika inferens. Dalam ujian yang dikongsi Alibaba, seni bina itu memberikan daya pemprosesan lebih 10 kali ganda bagi gesaan yang melebihi 32,000 token berbanding keluaran Qwen terdahulu. Tetingkap konteksnya mencapai 256,000 token dan, dalam tetapan tertentu, boleh dilanjutkan hingga 1 juta token. Ini menjadikan model-model itu lebih sesuai untuk dokumen sepanjang buku, repositori kod besar dan beban kerja input berat yang lain.

Perubahan dalaman Qwen3-Next

Generasi ini memperkenalkan beberapa komponen yang semakin menjadi alat piawai untuk AI canggih. Terasnya ialah Mixture of Experts (MoE) yang jarang, iaitu reka bentuk yang melatih banyak rangkaian pakar kecil tetapi hanya menggunakan beberapa daripadanya bagi setiap token. Qwen3-Next menggabungkannya dengan mekanisme perhatian hibrid untuk mengendalikan jujukan panjang, ramalan berbilang token bagi mempercepat penjanaan, serta pembaikan latihan yang mengawal ketidakstabilan dalam pembelajaran pengukuhan (RL). Dalam model Qwen3-Next-80B-A3B-Base, hanya kira-kira 3 bilion parameter aktif pada setiap langkah, walaupun jumlah parameter model itu ialah 80 bilion.

Alibaba berkata model asas itu mencapai mutu yang setanding dengan, dan kadangkala lebih baik daripada, Qwen3-32B yang padat, sambil menggunakan kurang daripada 10 peratus jam GPU untuk latihan. Semasa inferens, seni bina itu mengekalkan penggunaan pengkomputeran pada tahap rendah tanpa mengorbankan keupayaan. Sebab itu pasukan tersebut melaporkan peningkatan kelajuan yang ketara bagi konteks panjang serta profil kos yang lebih baik untuk perkakasan awan dan perkakasan pengguna.

Mixture of Experts dalam bahasa mudah

Dalam Mixture of Experts, rangkaian mempelajari banyak submodel khusus yang dipanggil pakar. Modul get ringan menentukan pakar yang perlu dipanggil bagi setiap token. Qwen3-Next menggunakan tetapan sparsiti tinggi, bermakna hanya sebahagian kecil pakar diaktifkan pada satu-satu masa. Laporan menyebut 512 pakar dengan 10 daripadanya aktif bagi setiap token dalam sesetengah lapisan. Ini menjadikan kos pengkomputeran dan memori bagi setiap laluan hadapan setanding dengan rangkaian padat yang jauh lebih kecil, sementara keseluruhan kumpulan pakar memberikan kapasiti keseluruhan yang besar kepada model.

Imbangannya ialah latihan menjadi lebih rumit dan penjadualan diperlukan untuk memastikan pakar digunakan secara seimbang. Alibaba berkata pihaknya menangani isu kestabilan yang sering timbul apabila MoE jarang digabungkan dengan penalaan halus berasaskan RL. Bagi pembangun, perkara pentingnya ialah kos masa jalan meningkat mengikut bilangan parameter aktif, bukan jumlah keseluruhan parameter.

Perhatian hibrid dan konteks panjang

Lapisan perhatian ialah bahagian transformer yang membolehkan model meneliti token input dan menentukan perkara yang penting. Perhatian standard menjadi mahal apabila input semakin panjang kerana kosnya meningkat mengikut kuasa dua panjang jujukan. Qwen3-Next menggabungkan perhatian standard dengan kaedah yang menganggarkan konteks secara lebih cekap, yang diterangkan oleh pasukan itu sebagai Gated DeltaNet yang digabungkan dengan perhatian klasik. Hasilnya ialah daya pemprosesan lebih tinggi untuk input panjang dan kelembapan yang lebih rendah apabila gesaan bertambah panjang. Alibaba melaporkan daya pemprosesan lebih 10 kali ganda bagi panjang konteks melebihi 32,000 token, tetingkap 256,000 token secara lalai dan pilihan untuk melanjutkannya hingga 1 juta token bagi keadaan khas. Pasukan itu turut melaporkan peningkatan penskalaan hampir linear dalam sesetengah keadaan, termasuk prapengisian sehingga kira-kira 7 kali lebih pantas dan penyahkodan kira-kira 4 kali lebih pantas bagi konteks yang lebih pendek.

Ramalan berbilang token dan penyahkodan

Ramalan berbilang token cuba meneka beberapa token seterusnya sekali gus, kemudian membetulkannya jika tekaan itu salah. Apabila digabungkan dengan penyahkodan spekulatif, kaedah ini mengurangkan bilangan laluan hadapan yang mahal untuk menstrim respons. Qwen3-Next menyokong pendekatan ini dan bersepadu dengan susunan inferens popular seperti SGLang dan vLLM, yang membantu mengurangkan kependaman dalam perkhidmatan produksi. Pasukan itu turut menyebut Zero Centered RMSNorm dan pilihan pengoptimuman lain yang menstabilkan latihan. Keseluruhannya, apabila digabungkan dengan MoE jarang, kaedah ini menghasilkan penjanaan lebih pantas tanpa menjejaskan mutu dengan ketara.

Dua varian model untuk arahan dan penaakulan

Semasa pelancaran, Alibaba menyediakan dua model pascalatihan yang dibina berasaskan rangkaian asas itu. Qwen3-Next-80B-A3B-Instruct menyasarkan pematuhan arahan harian, sembang dan penggunaan alat. Dalam ujian syarikat, prestasinya hampir menyamai model utama 235 bilion parameter dalam banyak tugasan umum dan menunjukkan kekuatan apabila gesaan mengandungi konteks yang sangat panjang, sehingga 256,000 token.

Qwen3-Next-80B-A3B-Thinking ditala untuk penaakulan kompleks. Alibaba mengetengahkan skor yang mengatasi model Qwen3 kelas pertengahannya sendiri dan juga Gemini 2.5 Flash Thinking yang tertutup dalam beberapa penanda aras yang dipilih untuk penilaian. Syarikat itu menyatakan keputusan 60.8 peratus pada SuperGPQA, set ujian sukar peringkat pascasiswazah. Penanda aras memberikan petunjuk berguna, namun pembeli wajar menjalankan ujian sendiri terhadap beban kerja khusus bidang, termasuk pengekodan, penjanaan terimbuh dapatan semula, matematik dan perancangan berbilang langkah.

Kelajuan, kos dan keperluan perkakasan

Peningkatan utama melibatkan kos dan masa. Alibaba berkata latihan model asas itu selesai dengan penggunaan kuasa pengkomputeran kurang daripada 10 peratus berbanding Qwen3-32B. Semasa inferens, hanya kira-kira 3 bilion parameter aktif bagi setiap token, maka model itu boleh menjawab dengan tekanan memori GPU dan penggunaan tenaga yang lebih rendah. Ini bermakna jejak perkakasan yang lebih kecil untuk tahap perkhidmatan tertentu, atau daya pemprosesan permintaan yang lebih tinggi menggunakan persediaan sama.

Seni bina ini menyerlah untuk gesaan panjang. Alibaba melaporkan peningkatan daya pemprosesan berlipat kali ganda bagi input melebihi 32,000 token dan peningkatan ketara juga untuk jujukan lebih pendek, termasuk prapengisian kira-kira 7 kali lebih pantas dan penyahkodan kira-kira 4 kali lebih pantas dalam sesetengah ujian. Dengan tetingkap 256,000 token, penganalisis boleh memasukkan keseluruhan kontrak, transkrip atau fail kod besar dalam satu permintaan, kemudian meminta model meringkaskan, membandingkan atau menjana perubahan. Syarikat itu menegaskan bahawa siri baharu ini ditala supaya berfungsi dengan baik pada perkakasan pengguna, justeru prototaip canggih tidak lagi memerlukan kelompok pelayan besar.

Ketersediaan dan akses

Model Qwen3-Next diterbitkan untuk akses meluas. Model-model itu disenaraikan di hab model umum seperti Hugging Face dan ModelScope, serta boleh didapati melalui Alibaba Cloud Model Studio untuk pelaksanaan terurus. Pengguna boleh mengakses titik hujung yang dihoskan atau memuat turun pemberat model untuk inferens setempat. Siri ini turut tersedia melalui NVIDIA API Catalog, manakala beberapa varian disalin ke Kaggle untuk memudahkan percubaan.

Pelancaran ini hadir bersama utiliti seperti Qwen3-ASR-Flash, komponen transkripsi pertuturan yang menyokong 11 bahasa utama menurut pasukan itu. Alibaba menggalakkan pembangun menyemak syarat lesen setiap model, khususnya bagi penggunaan komersial atau trafik tinggi, kemudian mengujinya menggunakan set data dan beban kerja sendiri. Sokongan untuk rangka kerja inferens seperti SGLang dan vLLM, bersama corak pengaktifan yang mesra perkakasan, sepatutnya memendekkan laluan daripada demonstrasi kepada perkhidmatan yang andal.

Bagaimana langkah ini mengubah persaingan AI

Langkah ini menyerlahkan persaingan lebih luas antara makmal global untuk menjadikan model berkuasa mudah digunakan pada kos lebih rendah. Syarikat China giat memacu AI sumber terbuka sebagai cara meluaskan penggunaan dan mengejar keupayaan pesaing Barat. Alibaba berkata ekosistem Qwen telah menjadi antara komuniti sumber terbuka terbesar untuk pembangun. Kumpulan itu turut memperkenalkan Qwen3-Max, model dengan lebih 1 trilion parameter yang baru-baru ini menduduki tempat keenam dalam carta kedudukan chatbot LMArena yang dikendalikan penyelidik. Selain Alibaba, syarikat seperti DeepSeek dan Meituan turut melancarkan model dan perkhidmatan yang berdaya saing.

Model asas yang lebih murah dan pantas penting kerana kuasa pengkomputeran terhad dan mahal. Sekatan eksport cip canggih menambah tekanan di China, manakala banyak pasukan di Amerika Syarikat dan Eropah juga berdepan kekurangan GPU. Seni bina yang membiarkan kebanyakan parameter tidak aktif semasa inferens membuka peluang kepada makmal lebih kecil, syarikat pemula dan universiti untuk menjalankan model bermutu tinggi pada pelayan sederhana. Pelabur turut memberikan perhatian, dengan prestasi saham Alibaba bertambah baik tahun ini ketika syarikat itu kembali menumpukan perhatian pada awan dan AI. Kesan persaingan akan meluas apabila lebih banyak organisasi menggunakan AI sumber terbuka dalam aliran kerja harian.

Penanda aras, ketelusan dan penilaian teliti

Papan kedudukan model berguna, namun boleh menyembunyikan kompromi. Angka kelajuan berbeza mengikut saiz kelompok, rangka kerja, pengkuantitian dan perkakasan. Ketepatan pula berbeza mengikut bidang, gaya gesaan dan ketersediaan alat seperti pentafsir kod atau sistem dapatan semula. Vendor juga memilih set ujian masing-masing. Ujian bebas oleh kumpulan komuniti dan pelanggan lazimnya memberikan gambaran lebih menyeluruh tentang kekuatan dan kekurangan.

Pasukan yang menilai Qwen3-Next perlu memeriksa lebih daripada skor pada satu penanda aras. Ukur ketepatan konteks panjang, penggunaan alat, kebolehpercayaan matematik dan kod, serta tingkah laku model di bawah kekangan keselamatan. Pantau penggunaan memori dan daya pemprosesan pada panjang konteks yang diperlukan. Jika aplikasi anda bergantung pada jawapan berasaskan bukti, gabungkan model dengan dapatan semula dan periksa jejak bukti. Jika anda memerlukan rantaian pemikiran yang konsisten, bandingkan varian Thinking dengan susunan sedia ada.

Kes penggunaan dan sektor yang berpotensi mendapat manfaat

Qwen3-Next kelihatan dibina untuk aplikasi yang memerlukan konteks panjang, respons pantas dan kawalan kos yang ketat. Pasukan undang-undang dan kewangan boleh menganalisis set dokumen besar serta menghasilkan ringkasan khusus yang mengekalkan petikan sumber. Ketua khidmat pelanggan boleh menyatukan pangkalan pengetahuan dan panduan penyelesaian masalah yang panjang ke dalam satu pembantu yang mampu membuat penaakulan merentas ribuan halaman. Pasukan perisian boleh memasukkan repositori dan log untuk membantu semakan kod, pemfaktoran semula dan penjanaan ujian.

Penyelidik boleh memuat naik kertas kerja dan set data yang panjang untuk membandingkan kaedah dan hasil. Penyedia media dan pendidikan boleh mentranskripsikan dan menterjemahkan audio menggunakan Qwen3-ASR-Flash, kemudian menggunakan model bahasa itu untuk menghasilkan panduan pembelajaran atau rangka kandungan. Kerajaan dan industri terkawal yang memerlukan pelaksanaan di premis mendapat manfaat daripada keupayaan menjalankan model berkemampuan pada pelayan perkakasan pengguna dengan pemantauan teliti, log audit dan penapis kandungan.

Inti pati

• Alibaba melancarkan Qwen3-Next dan menjadikan keluarga Qwen3-Next-80B-A3B sebagai sumber terbuka.
• Latihan menggunakan kurang daripada 10 peratus kuasa pengkomputeran Qwen3-32B, sambil menyamai atau mengatasinya dalam ujian.
• Hanya kira-kira 3 bilion daripada 80 bilion parameter aktif bagi setiap token hasil penggunaan Mixture of Experts yang jarang.
• Peningkatan daya pemprosesan melebihi 10 kali ganda untuk gesaan melebihi 32,000 token, dengan tetingkap konteks 256,000 token.
• Peluasan hingga 1 juta token tersedia dalam sesetengah tetapan, dengan peningkatan kelajuan prapengisian dan penyahkodan yang dilaporkan bagi konteks lebih pendek.
• Dua varian pascalatihan meliputi pematuhan arahan dan penaakulan kompleks, dengan ujian syarikat menunjukkan prestasi lebih baik daripada beberapa pesaing tertutup.
• Model tersedia di Hugging Face, ModelScope, Alibaba Cloud Model Studio dan NVIDIA API Catalog.
• Akses sumber terbuka dan keperluan perkakasan yang lebih rendah meluaskan penggunaan merentas syarikat pemula, perusahaan dan kumpulan penyelidikan.