Meituan melancarkan LongCat Flash Chat, model Mixture of Experts dengan 560 bilion parameter

Mengapa pelancaran ini penting sekarang

Gergasi perkhidmatan atas permintaan China, Meituan, menyertai gelombang model bahasa besar sumber terbuka dengan melancarkan LongCat Flash Chat, sistem yang menggabungkan jumlah parameter yang sangat besar dengan reka bentuk yang mengutamakan kecekapan. Diumumkan pada awal September 2025 dan diterbitkan untuk pembangun di GitHub serta Hugging Face, model ini disertakan laporan teknikal yang meletakkannya sebaris dengan sistem terkemuka semasa. Meituan berkata LongCat Flash Chat menyamai prestasi DeepSeek V3.1, keluarga Qwen3 Alibaba Cloud dan Kimi K2 Moonshot AI, selain menunjukkan prestasi yang baik berbanding Claude Sonnet keluaran Anthropic dan Gemini 2.5 Flash keluaran Google, menurut penanda aras syarikat itu. Model ini dilesenkan untuk penggunaan dan pengubahsuaian yang meluas, menandakan usaha membina ekosistem pembangun yang aktif di sekitar rangkaian AI Meituan.

LongCat Flash Chat diketengahkan sebagai model asas yang pantas dan sedia untuk pengeluaran, bukannya sistem yang berorientasikan penaakulan. Tumpuan ini mencerminkan pertukaran yang jelas: kurang penekanan pada rangkaian logik yang perlahan dan kompleks, dan lebih pada tingkah laku ejen yang responsif, penggunaan alat serta pematuhan arahan. Pelancaran ini menyusuli pemerolehan syarikat pemula AI Light Year oleh Meituan pada 2023 dengan harga 281 juta dolar dan selari dengan strategi dalaman yang merangkumi AI untuk aliran kerja dalaman, ciri AI dalam produk pengguna akhir dan pembangunan model teras.

Perkara yang dilancarkan Meituan

Dokumentasi syarikat itu menerangkan LongCat Flash Chat sebagai model Mixture of Experts dengan 560 bilion jumlah parameter. Hanya sebahagian kecil parameter itu aktif bagi setiap token, lazimnya 18.6 bilion hingga 31.3 bilion, dengan purata sekitar 27 bilion. Pengaktifan terpilih ini menjadi teras kepada kelajuan dan kos model tersebut. Model ini menyokong tetingkap konteks panjang sehingga 128k token, yang membolehkannya memproses perbualan, dokumen atau tugasan berbilang langkah yang panjang tanpa perlu kerap dimulakan semula.

Menurut Meituan, ini ialah model asas tanpa penaakulan. Caixin Global melaporkan bahawa model ini tidak merangkumi keupayaan penaakulan lanjutan, namun masih memberikan hasil yang kukuh dalam pelbagai tugasan arahan dan ejen. Repositori itu mengetengahkan skor yang berdaya saing dalam penanda aras umum, pematuhan arahan, matematik, pengekodan, penggunaan alat dan penilaian keselamatan. Pembangun boleh mengakses pemberat model dan dokumentasi di Hugging Face melalui halaman ini serta melihat butiran produk di laman rasmi longcat.ai. Kod dan pemberatnya dikeluarkan di bawah Lesen MIT.

Di sebalik seni bina LongCat

Model Mixture of Experts membahagikan rangkaian gergasi kepada banyak komponen khusus yang dipanggil pakar. Penghala menentukan pakar yang perlu dirujuk bagi setiap token. Dengan mengaktifkan hanya sebilangan kecil pakar bagi setiap token, model mengekalkan kapasiti keseluruhan yang besar sambil memastikan pengiraan bagi setiap langkah terkawal. Pendekatan ini menjadi kaedah lazim untuk meningkatkan skala model tanpa melonjakkan kos inferens.

Mixture of Experts secara ringkas

Bayangkan sistem ini sebagai sebuah pasukan besar yang hanya memanggil beberapa pakar bagi setiap mesej. Penghala memilih pakar berdasarkan kandungan, sekali gus mengurangkan kerja yang tidak perlu. Reka bentuk Meituan menambah beberapa ciri tersendiri. Laporan itu menerangkan Pakar Pengiraan Sifar, yang bertindak sebagai ruang letak dan boleh dipilih apabila penghala perlu mengimbangi beban atau mengurangkan pengiraan bagi token mudah. Terdapat juga pengawal PID di sebalik tabir yang melaraskan bias pakar untuk mengekalkan purata bilangan parameter aktif pada tahap stabil. PID bermaksud berkadar, kamiran dan terbitan. Ini ialah kaedah kawalan lazim yang menggerakkan sistem ke arah tahap sasaran tanpa ayunan.

Untuk meningkatkan daya pemprosesan, LongCat Flash Chat menggunakan susun atur MoE bersambungan pintas yang meningkatkan pertindihan antara komunikasi dengan pengiraan. Dalam persediaan berbilang GPU, masa komunikasi boleh menjadi penghalang prestasi. Sambungan pintas mewujudkan laluan yang membolehkan bahagian rangkaian bergerak lebih pantas ketika data dipindahkan antara peranti. Nota teknikal menyatakan kadar inferens melebihi 100 token sesaat bagi seorang pengguna pada perkakasan kelas H800.

Dakwaan kelajuan dan kos

Ringkasan sumber terbuka dan laporan media China menyatakan Meituan menyiapkan latihan dalam kira-kira 30 hari menggunakan persediaan yang sangat selari, dan model itu boleh menjana 100 token sesaat pada pemecut H800. Syarikat itu menyatakan kos output hampir 5 yuan bagi setiap sejuta token dalam keadaan tertentu. Kos sebenar berbeza mengikut perkakasan, saiz kelompok dan rangka kerja pelaksanaan, tetapi dakwaan utamanya jelas. Meituan memasarkan LongCat Flash Chat sebagai model yang dibina untuk kelajuan, dengan mutu yang berdaya saing dan penggunaan pengiraan lebih rendah bagi setiap permintaan.

Kaedah latihan dan kestabilan

Repositori itu menggariskan beberapa bantuan kestabilan: pemindahan hiperparameter untuk menggunakan semula tetapan yang baik merentas skala, pemulaan pertumbuhan model supaya varian lebih besar bermula daripada varian lebih kecil, serta kaedah pengimbangan kecerunan penghala dengan kehilangan z untuk memastikan penghala MoE berfungsi dengan baik. Pasukan itu menekankan pengiraan deterministik bagi membolehkan pelaksanaan semula yang boleh dihasilkan semula. Dari segi data, Meituan menerangkan strategi penggabungan pralatihan dua peringkat dan rangka kerja sintesis berbilang ejen untuk menghasilkan trajektori tugasan kompleks bagi tingkah laku ejen. Kesimpulannya, saluran latihan ini ditala untuk kebolehpercayaan dan prestasi ejen, bukannya penaakulan mendalam berbilang langkah.

Perbandingan dengan pesaing

Penanda aras Meituan meletakkan LongCat Flash Chat setanding dengan model umum terkemuka China. Perbandingan itu mengetengahkan DeepSeek V3.1, keluarga Qwen3 Alibaba Cloud dan Kimi K2 Moonshot AI. Laporan itu turut menyebut kedudukan yang kukuh berbanding model terkenal Amerika Syarikat seperti Claude Sonnet dan Gemini 2.5 Flash. Sesetengah laporan turut menyatakan perbandingan dengan GPT 4.1 bagi tugasan tanpa penaakulan tertentu. Kedudukan tepat bergantung pada set penanda aras dan tetapan gesaan. Ujian yang dijalankan vendor ialah titik permulaan, manakala penilaian pihak ketiga akan memberikan gambaran yang lebih menyeluruh.

Label tanpa penaakulan itu merupakan kelayakan yang penting. Sistem berorientasikan penaakulan bertujuan merancang dan membuat refleksi melalui beberapa langkah, lazimnya dengan penjanaan yang lebih perlahan dan kos pengiraan yang lebih tinggi. LongCat Flash Chat menumpukan pada pematuhan arahan yang pantas, penggunaan alat dan penyelarasan ejen. Pendekatan ini sesuai untuk kegunaan yang mengutamakan masa respons, daya pemprosesan dan kos yang boleh dijangka berbanding penaakulan terperinci dalam ruang kerja dalaman.

Maksud tugasan agentik dalam amalan

Tugasan agentik melibatkan model yang boleh menggunakan alat, mendapatkan maklumat, mengikuti aliran kerja dan menentukan masa untuk meminta maklumat tambahan. Sistem itu mungkin menyemak imbas dokumentasi, mengakses pangkalan data dalaman, mencetuskan API pembayaran atau merangka mesej kepada pelanggan. LongCat Flash Chat ditala untuk jenis kerja ini. Ia bertujuan membuat keputusan dengan pantas, mengendalikan konteks panjang dan mengekalkan kependaman rendah supaya responsnya terasa pantas dalam aplikasi sebenar.

Meituan sudah pun bereksperimen dengan ejen dalam pelbagai perniagaannya. Syarikat itu telah memperkenalkan NoCode untuk pengekodan berbantu AI, Kangaroo Advisor untuk sokongan keputusan perniagaan dan Meituan Jibai untuk pengurusan operasi hotel. Enjin ejen yang pantas boleh membantu menggerakkan tugasan seperti pendaftaran peniaga, pengasingan permintaan sokongan pelanggan, pemeriksaan inventori, sokongan perancangan laluan dan penjanaan teks pemasaran. Dalam e-dagang dan perkhidmatan setempat, banyak tugasan lebih mendapat manfaat daripada kelajuan yang boleh diharap, sambungan kepada alat dan pengekalan konteks yang panjang berbanding penaakulan langkah demi langkah yang perlahan.

Strategi, pemerolehan dan kebangkitan sumber terbuka di China

Usaha Meituan dalam pembangunan model teras bermula dengan serius menerusi pembelian Light Year pada 2023 dengan harga 281 juta dolar. Pemimpin syarikat telah menerangkan rancangan tiga peringkat: AI untuk kerja dalaman, AI dalam produk pengguna dan pembangunan model asas. LongCat Flash Chat ialah bukti awam pertama bagi peringkat asas itu. Ia juga selari dengan trend lebih luas dalam kalangan firma teknologi China. Pelancaran sumber terbuka daripada syarikat seperti Alibaba, makmal yang bergabung dengan DeepSeek dan Moonshot AI sedang merapatkan jurang dengan pesaing Barat melalui pengulangan pantas dan ujian komuniti.

Pelesenan sumber terbuka penting dalam hal ini. Dengan menerbitkan pemberat dan kod di bawah Lesen MIT, Meituan mengundang syarikat pemula, kumpulan penyelidikan dan pasukan perusahaan untuk mencuba, menyesuaikan dan melaksanakan model itu tanpa sekatan berat. Ini memperluas saluran maklum balas dan kes penggunaan. Ia juga membantu Meituan membina kredibiliti teknikal di luar identiti terasnya dalam penghantaran makanan. Beberapa sumber menyatakan syarikat itu menggambarkan pendekatan AI-nya sebagai agresif dan proaktif, dengan matlamat memenangi perhatian pembangun melalui kelajuan dan keterbukaan.

Pelesenan, pelaksanaan dan keselamatan

LongCat Flash Chat dikeluarkan di bawah Lesen MIT, lesen permisif yang membenarkan penggunaan komersial secara meluas. Repositori itu menyertakan panduan pelaksanaan untuk vLLM dan SGLang. Rangka kerja ini popular untuk inferens berdaya pemprosesan tinggi, dengan ciri seperti pengelompokan berterusan dan perhatian berhalaman yang boleh mengurangkan kos penyajian. Model dengan pengaktifan pakar separa sememangnya sesuai dengan persekitaran yang mengurangkan masa GPU melahu.

Seperti semua model bahasa besar, LongCat Flash Chat mempunyai batasan. Dokumentasi menggesa pembangun menilai keselamatan, keadilan dan pematuhan undang-undang dalam persekitaran masing-masing. Perkara ini amat relevan dalam bidang yang mengendalikan data peribadi, kewangan atau kesihatan. Bahan Meituan merangkumi penilaian keselamatan dan ujian red team, selain mengingatkan pengguna supaya mematuhi undang-undang dan peraturan industri apabila menggunakan model ini dalam konteks sensitif.

Reaksi pelabur dan isyarat pasaran

Laporan kewangan selepas pelancaran itu menyatakan saham Meituan didagangkan pada harga lebih rendah meskipun syarikat itu menyertai senarai firma China yang melancarkan model berdaya saing. TipRanks memetik penanda aras South China Morning Post dan merujuk latar dasar yang lebih luas, dengan China meningkatkan sokongan terhadap sektor teknologinya ketika berdepan ketegangan perdagangan. Reaksi pasaran sering ketinggalan berbanding realiti produk. Bagi pelabur, perkara penting ialah sama ada model ini mendorong penggunaan, mengurangkan kos operasi Meituan dan dipilih pembangun luar sebagai enjin untuk produk sebenar.

Isyarat yang lebih besar ialah syarikat yang berada jauh di luar lingkungan teras AI kini menerbitkan model yang mencabar pemain sedia ada dari segi kelajuan, kos dan keupayaan untuk kegunaan ejen. Momentum ini boleh mengubah cara perusahaan memikirkan sumber bagi rangkaian AI mereka. Ia juga boleh meningkatkan tekanan terhadap pembangun model supaya membuktikan nilai dalam tugasan praktikal yang sensitif terhadap kependaman, bukan hanya dalam carta kedudukan penanda aras.

Perkara Utama

• Meituan melancarkan LongCat Flash Chat, model Mixture of Experts sumber terbuka dengan jumlah 560 bilion parameter, di GitHub dan Hugging Face pada awal September 2025.
• Model ini mengaktifkan 18.6 bilion hingga 31.3 bilion parameter bagi setiap token secara purata, sekali gus mengurangkan kos pengiraan sambil mengekalkan kapasiti keseluruhan yang besar.
• Penanda aras dalam laporan teknikal mendakwa prestasinya setanding dengan DeepSeek V3.1, Qwen3 Alibaba Cloud dan Kimi K2 Moonshot AI, serta menunjukkan kedudukan yang kukuh berbanding Claude Sonnet dan Gemini 2.5 Flash.
• Meituan meletakkan sistem ini sebagai model asas tanpa penaakulan yang menumpukan pada kelajuan, pematuhan arahan, penggunaan alat dan aliran kerja ejen, bukannya penaakulan mendalam.
• Ciri kejuruteraannya termasuk Pakar Pengiraan Sifar, pengawal PID untuk bias pakar, reka bentuk MoE bersambungan pintas dan tetingkap konteks 128k token.
• Nota teknikal menyatakan kelajuan melebihi 100 token sesaat pada perkakasan H800 serta kos output hampir 5 yuan bagi setiap sejuta token dalam keadaan tertentu.
• Kod dan pemberatnya dilesenkan di bawah Lesen MIT, dengan panduan pelaksanaan untuk vLLM dan SGLang.
• Pelancaran ini menyusuli pembelian Light Year oleh Meituan pada 2023 dan menyokong strategi AI tiga peringkat yang lebih luas merangkumi alat kerja, produk dan model teras.
• TipRanks melaporkan harga saham merosot selepas pengumuman itu, menunjukkan sentimen pelabur mungkin bergantung pada penggunaan sebenar dan penjimatan kos.
• Pelancaran ini menambah kepada gelombang aktiviti model sumber terbuka di China yang merapatkan jurang dengan pesaing Barat dan menumpukan pada penggunaan ejen yang pantas.