Moonshot Melepaskan Pemberat Kimi K3.1 Pro, Huawei dan Alibaba Menambah Sokongan Pelaksanaan

Model 2.8 trilion parameter melangkaui API

Moonshot AI telah mengeluarkan pemberat lengkap Kimi K3.1 Pro di Hugging Face, sekali gus memberi pembangun dan perniagaan cara untuk menjalankan model multimodal utamanya pada infrastruktur pengkomputeran sendiri. Pengumuman itu dibuat pada waktu subuh di Beijing pada 5 November, selepas model itu diperkenalkan pada 24 Oktober 2026 dan disediakan melalui produk Kimi serta antara muka pengaturcaraan aplikasi, atau API.

K3.1 Pro mempunyai 2.8 trilion parameter, iaitu tetapan berangka yang menyimpan perkara yang telah dipelajari oleh model. Reka bentuk campuran pakarnya mengaktifkan kira-kira 104 bilion parameter bagi setiap langkah inferens, berbanding menggunakan keseluruhan model serentak. Model ini menyokong konteks kira-kira satu juta token dan boleh memahami maklumat visual bersama teks.

Huawei Ascend dan Alibaba Cloud masing-masing mengumumkan sokongan pada hari pemberat itu dikeluarkan. Pelaksanaan mereka menggunakan rangka kerja inferens vLLM dan SGLang, iaitu perisian yang mengurus cara model terlatih memproses permintaan. Bagi perniagaan yang mempertimbangkan pelaksanaan setempat, keluaran ini menyediakan pemberat yang boleh dimuat turun serta laluan awal untuk menjalankannya pada sistem pemecut China.

Pengumuman pelancaran model Moonshot, yang dikemas kini pada 24 Oktober, menyatakan pemberat lengkap akan dikeluarkan menjelang 4 November; pengumuman pelepasan kepada umum menyusul pada 5 November. Syarikat itu sebelum ini telah membuka akses melalui kimi.com, Kimi App, Kimi Work, Kimi Code dan Kimi API.

Perubahan praktikalnya ialah kawalan terhadap lokasi model dijalankan. Pelanggan API menghantar permintaan kepada perkhidmatan penyedia. Organisasi yang melaksanakan pemberat boleh mengendalikan model dalam infrastruktur yang diurusnya sendiri, tertakluk pada lesen Moonshot dan perkakasan besar yang diperlukan untuk menjalankannya.

Moonshot turut memperkenalkan Kimi Hosted Agents, perkhidmatan terurus untuk memastikan ejen AI terus beroperasi sepanjang tugasan yang panjang. Secara bersama, pengumuman ini menawarkan dua pilihan berbeza kepada perniagaan: mengurus model sendiri atau menyerahkan lebih banyak kerja operasi kepada Kimi.

Apakah yang baharu dan apakah yang diwarisi daripada K3?

Kimi K3.1 Pro dibina berasaskan K3 melalui latihan tambahan, bukannya bermula dengan asas yang dilatih dari awal. Moonshot berkata ia meningkatkan sumber pengkomputeran dengan ketara untuk pembelajaran pengukuhan, iaitu proses yang memberi ganjaran kepada tindakan berjaya dan membantu model bertambah baik melalui percubaan berulang.

Moonshot menggunakan latihan itu merentasi ratusan bidang tugasan, dengan tumpuan khusus pada pengekodan, penciptaan 3D, penyelidikan kewangan dan ejen yang melaksanakan kerja melalui banyak langkah. Perubahan kejuruteraannya merangkumi perisian latihan, pemprosesan konteks panjang, penjadualan dan persekitaran kotak pasir untuk menjalankan kod yang dijana.

Tetingkap konteks kira-kira satu juta token diwarisi daripada K3. Token ialah unit yang digunakan model untuk membahagikan teks dan input lain. Tetingkap konteks yang lebih besar membolehkan lebih banyak dokumen, arahan dan perbualan terdahulu kekal tersedia semasa sesuatu permintaan diproses.

Urutan keluaran ini membezakan akses kepada perkhidmatan daripada akses kepada model itu sendiri:

• 16 Julai 2026: Kimi K3 diperkenalkan, menurut perbandingan model yang diterbitkan.
• 24 Oktober 2026: Moonshot memperkenalkan K3.1 Pro melalui produk dan API-nya, dengan pemberat dijadualkan untuk dikeluarkan menjelang 4 November.
• 5 November: Moonshot mengumumkan pelepasan pemberat dan Kimi Hosted Agents; Huawei dan Alibaba mengumumkan sokongan pelaksanaan.

Pemberat terbuka tertakluk pada syarat operasi dan lesen

Pemberat itu membolehkan organisasi yang mempunyai kapasiti pengkomputeran mencukupi memuat turun dan menjalankan K3.1 Pro secara kendiri. Perniagaan boleh mengkonfigurasi sistem penyajian sendiri, menyambungkan alat dalaman dan melakukan penyesuaian khusus di bawah lesen yang berkenaan.

Moonshot menggunakan lesen tersuai yang mengawal penggunaan komersial. Keluaran ini merangkumi pemberat model, manakala kod latihan dan set data latihan asal tidak diterbitkan. Oleh itu, pembangun menerima model terlatih dengan kebenaran yang ditetapkan dalam terma Moonshot, bukannya pakej latihan lengkap menurut takrif Open Source Initiative.

Saiz model itu kekal sebagai pertimbangan operasi yang utama. Walaupun hanya sebahagian rangkaian campuran pakar aktif pada setiap langkah, pelaksanaan tetap memerlukan akses kepada keseluruhan koleksi pemberat. Permintaan yang panjang juga menghasilkan sejumlah besar data perhatian sementara yang mesti disimpan sepanjang model beroperasi.

Huawei mengagihkan beban memori merentasi sistem Ascend

Huawei berkata pasukan Ascendnya menyelesaikan penyesuaian pada hari pemberat K3.1 Pro tersedia, sekali gus membolehkan pengesahan pelaksanaan dilakukan serta-merta. Sokongan meliputi sistem Atlas 800 A3, Atlas 900 A3 SuperPod dan Ascend 950 supernode melalui vLLM Ascend dan SGLang.

Penyesuaian itu menangani seni bina perhatian hibrid model, termasuk perhatian jarang dan pemprosesan multimodal. Perhatian ialah mekanisme yang membantu model menentukan bahagian input yang penting untuk langkah seterusnya. Perhatian jarang mengehadkan sebahagian hubungan tersebut untuk mengurangkan kerja yang diperlukan bagi input yang sangat panjang.

Ascend menggunakan cache teragih untuk mengagihkan data model sementara merentasi beberapa unit pemprosesan neural, atau NPU, sekali gus mengurangkan tekanan memori pada setiap pemecut. Huawei turut menerangkan perubahan pada operasi matematik teras yang mengurangkan penyalinan dan pengiraan yang tidak diperlukan.

Pengendali boleh memuatkan pemberat asal atau menggunakan ketepatan bit yang lebih rendah untuk komponen model yang berlainan, selain kuantifikasi cache perhatian. Kuantifikasi menyimpan nombor menggunakan bit yang lebih sedikit, sekali gus mengurangkan keperluan memori. Huawei berkata pelaksanaan itu mengekalkan cache awalan, yang menggunakan semula input berulang; praisi berkelompok, yang memproses gesaan panjang secara berperingkat; dan inferens spekulatif, yang mempercepat penjanaan dengan menyemak token yang dicadangkan secara berkumpulan.

Alibaba menambah satu lagi laluan melalui platform SuperPoD

Alibaba Cloud berkata Lingjun Zhenwu M890 SuperPoD-nya selesai disesuaikan dan disahkan merentasi susunan perisian vLLM dan SGLang. Sokongan turut meliputi konfigurasi Zhenwu 810E, sekali gus menyediakan satu lagi laluan pelaksanaan model ini pada pemecut China.

Alibaba Cloud, T-Head dan pasukan Kimi bekerjasama pada susunan perisian T-Head SAIL, termasuk FlashMLA, operasi campuran pakar DeepGEMM, MegaMoE dan MoonEP. Komponen ini mengendalikan pengiraan perhatian serta pengagihan kerja antara pakar dan pemecut. Pelanggan boleh melaksanakan model melalui instans SuperPoD bare metal khusus atau perkhidmatan REIN Alibaba, manakala akses API turut ditawarkan melalui platform AI Qwen miliknya.

Alibaba membuka ujian jemputan untuk rantau SuperPoD di Zhongwei, Ningxia, selain menyediakan instans pada hari pelancaran di Zhongwei dan Ulanqab. Konfigurasi Zhongwei menambah kad rangkaian Panmai 920 keluaran T-Head, yang menurut Alibaba menyokong PCIe 5.0, Ethernet PAM4 112G, kadar pemprosesan sehingga 400 gigabit sesaat dan 400 juta paket sesaat.

Butiran rangkaian itu penting kerana model sebesar ini perlu memindahkan maklumat dengan pantas antara pemproses. Alibaba berkata suis PCIe bersepadu pada kad itu boleh mengurangkan kos sistem kira-kira 30%. Syarikat itu turut berkata M890 SuperPoD melayani lebih daripada 100 pelanggan besar dan meramalkan prestasi kira-kira tiga kali ganda berbanding generasi semasa bagi penggantinya, V900, yang dirancang; angka itu ialah jangkaan syarikat.

Keputusan pengekodan menunjukkan peningkatan dalam pelaksanaan berterusan

Moonshot melaporkan skor 65.7% pada Terminal-Bench 4.0, yang menguji ejen dengan tugasan terminal dalam persekitaran pengkomputeran sebenar di bawah had sumber. Perbandingan yang diterbitkannya meletakkan GPT-6 Astra pada 58.2% dan Claude Opus 5.5 pada 66.4%, menjadikan K3.1 Pro ketinggalan 0.7 mata peratusan berbanding model yang terakhir dalam konfigurasi itu.

Skor dalaman Kimi Code Bench 3.0 Long-horizon syarikat itu meningkat daripada 55.95% bagi K3 kepada 61.2% bagi K3.1 Pro, iaitu peningkatan sebanyak 5.25 mata peratusan. Ujian itu menumpukan pada perancangan, penggunaan alat dan penyelesaian masalah kejuruteraan melalui beberapa langkah.

Penilaian bebas memberikan satu lagi gambaran. Artificial Analysis merekodkan peningkatan Intelligence Index daripada 44 kepada 55 dan keputusan Terminal-Bench kira-kira 67% bagi K3.1 Pro berbanding 13% bagi K3. Penilaian terminalnya menggunakan rangka kerja ejen yang berbeza daripada Moonshot, jadi skor tersebut menggambarkan konfigurasi operasi yang berlainan.

Demonstrasi Moonshot menumpukan pada ketekunan, selain penjanaan kod. Dalam satu ujian dalaman, model itu mengendalikan simulasi berjalan yang dibina daripada 296 komponen rangka dan 402 komponen otot. Menurut syarikat itu, dalam 167 tugasan dan 420 semakan bebas, model tersebut meningkatkan tempoh berjalan berterusan badan simulasi itu kepada 11.2 saat dan membetulkan 36 ralat dalam pengiraan otot bahu.

Penilaian Plotly berasingan melaporkan 42 jawapan betul daripada 43 bagi K3.1 Pro, berbanding 35 bagi K3, tetapi dengan kos lebih tinggi dan masa penyelesaian median yang lebih panjang. Oleh itu, penjanaan token yang lebih pantas dan jawapan yang lebih baik boleh berlaku serentak dengan masa menunggu yang lebih lama untuk tugasan diselesaikan.

Penciptaan 3D dan kewangan menerima penambahbaikan khusus

K3.1 Pro mendapat skor 92.7% dengan penggunaan alat pada BenchCAD, menurut Moonshot. Penanda aras itu meminta model membina semula objek 3D daripada pandangan objek tersebut dengan menjana kod reka bentuk berbantu komputer. Perbandingan syarikat itu menyenaraikan 96.2% bagi Claude Opus 5.5 dan 95.9% bagi GPT-6 Astra.

Moonshot berkata model itu boleh menulis dan menjalankan skrip untuk alat pemodelan profesional, termasuk Blender dan perisian CAD. Contohnya termasuk enjin turbofan FreeCAD yang mengandungi 2,100 objek pepejal dan lampu yang direka sebagai lima bahagian untuk pencetakan 3D. Laman web dan aplikasi Kimi turut menawarkan 3D Make untuk pratonton, penyuntingan dan eksport model.

Kerja kewangan juga menjadi sasaran utama. Moonshot melaporkan skor 64.4 pada OfficeQA Pro v2, yang menguji analisis dokumen kewangan sebenar melalui pencarian maklumat, semakan silang dokumen dan penaakulan berangka. Penilaian dalaman syarikat menunjukkan pemodelan kewangan meningkat 14%, penyelidikan kewangan meningkat 20% dan operasi perniagaan simulasi mencapai kira-kira 4.2 kali ganda skor K3.

Perbandingan yang diterbitkan memberikan angka asas bagi dua ujian itu: Financial Research meningkat daripada 58.8 kepada 70.4, manakala Business Operation meningkat daripada 8.9 kepada 37.0. Bagi pengguna perniagaan, manfaat yang disasarkan ialah model yang boleh menyelesaikan tugasan daripada pencarian maklumat hingga pengiraan, seterusnya menghasilkan hamparan kerja atau output penyelidikan yang siap.

Moonshot menerbitkan dua keputusan berbeza tentang ralat fakta

Pengumuman pelancaran Moonshot menyatakan kadar ralat bagi satu dakwaan fakta pada Kimi Hallu Bench Hard menurun daripada 23.4% bagi K3 kepada 8.3% bagi K3.1 Pro; panduan API-nya memberikan keputusan ujian tekanan yang berbeza, iaitu penurunan daripada 23.35% kepada 6.85% bagi perbualan tanpa nama yang ditandai pengguna kerana kesilapan fakta.

Kedua-dua halaman itu turut memberikan angka berbeza pada peringkat jawapan. Pengumuman pelancaran menyatakan kadar respons yang mengandungi sekurang-kurangnya satu ralat fakta ialah kira-kira 42.4% daripada kadar K3, manakala panduan API memberikan angka kira-kira 46.4%. Moonshot tidak menjelaskan hubungan antara penilaian tersebut.

Kedua-dua huraian itu merujuk kepada contoh sukar yang dipilih kerana model mudah melakukan kesilapan padanya. Dalam pelaksanaan kewangan dan perniagaan, tugas praktikalnya masih memerlukan pengesahan pengiraan, petikan sumber dan kenyataan fakta berdasarkan rekod asal sebelum output digunakan untuk membuat tindakan.

Perbandingan bebas turut mencatatkan sedikit penurunan dalam satu ujian konteks panjang: AA-LCR v1.1 turun daripada 88.7% bagi K3 kepada 86.3% bagi K3.1 Pro. Organisasi yang memproses dokumen panjang perlu mempertimbangkan ketepatan pencarian maklumat selain kapasiti konteks model yang tidak berubah.

Ejen terhos dan akses API menawarkan pertukaran yang berbeza

Kimi Hosted Agents menyediakan rangka kerja operasi, yang sering disebut harness, di sekeliling model AI. Rangka kerja itu mengurus alat, pelaksanaan kod, konteks, kebenaran dan pemulihan apabila tugasan terganggu. Moonshot berkata perkhidmatan itu menyokong operasi sepanjang masa, tugasan yang panjang dan kerjasama antara beberapa ejen.

Moonshot menyenaraikan pemantauan dalaman dan tindak balas operasi sebagai kegunaan berpotensi, selain pembantu penyelidikan dan perkhidmatan sokongan yang berinteraksi dengan pelanggan. Perniagaan yang menggunakan perkhidmatan terurus itu menentukan tugasan dan menyambungkan alat, manakala Kimi menyelenggara persekitaran operasi asas. Perniagaan yang menjalankan pemberat bertanggungjawab terhadap pengaturan penyajian dan operasi masing-masing.

Bagi pelanggan API, panduan permulaan pantas API Moonshot memerlukan tambah nilai sekurang-kurangnya 10 yuan untuk membuka akses kepada K3.1 Pro. Baucar 15 yuan untuk pengguna baharu berdaftar tidak boleh digunakan bagi model ini. Panduan itu menyediakan tetapan penaakulan rendah, tinggi dan maksimum, dengan maksimum sebagai tetapan lalai, serta pilihan pengekalan cache selama lima minit atau satu jam.

Moonshot turut menawarkan K3.1 Pro Highspeed, yang menurutnya memberikan kecerdasan yang sama pada kelajuan output kira-kira dua hingga tiga kali ganda. Perbandingan yang diterbitkan menyenaraikan kadar input dan output standard sebanyak $2 dan $10 bagi setiap sejuta token, turun daripada $3 dan $15 bagi K3, iaitu pengurangan satu pertiga sebelum caj cache dan fi lain yang berkenaan. Jumlah perbelanjaan tetap bergantung pada bilangan token dan interaksi alat yang digunakan oleh sesuatu tugasan.

Pembangun perlu memenuhi beberapa keperluan integrasi khusus: mesej pembantu yang lengkap mesti dikekalkan merentasi panggilan alat, input visual memerlukan data base64 atau pengecam fail yang dimuat naik dan bukannya URL imej awam, dan panduan itu menasihatkan agar alat carian webnya tidak digunakan dalam persekitaran produksi semasa alat tersebut dikemas kini.

Perkara Utama

• Moonshot mengumumkan pemberat Kimi K3.1 Pro pada 5 November selepas akses terdahulu melalui produk dan API.
• Model ini mempunyai 2.8 trilion parameter keseluruhan, kira-kira 104 bilion parameter aktif bagi setiap langkah inferens dan konteks kira-kira satu juta token.
• Huawei Ascend dan Alibaba Cloud mengumumkan sokongan pelaksanaan melalui vLLM dan SGLang.
• Moonshot melaporkan peningkatan dalam pengekodan, pemodelan 3D dan kewangan, dengan keputusan berbeza mengikut tugasan dan konfigurasi penilaian.
• Pelaksanaan kendiri memerlukan sumber pengkomputeran yang besar serta pematuhan terhadap lesen tersuai Moonshot.
• Kimi Hosted Agents menawarkan pilihan terurus untuk menjalankan tugasan panjang dan menyelaraskan beberapa ejen.