Kimi K2 Thinking dari China Memacu Kemajuan AI Sumber Terbuka, Mengatasi GPT 5 dalam Ujian Utama

Bacaan 11 minit
Kimi K2 Thinking dari China Memacu Kemajuan AI Sumber Terbuka, Mengatasi GPT 5 dalam Ujian Utama

Model terbuka yang berkuasa mencabar barisan hadapan

Moonshot AI telah melancarkan Kimi K2 Thinking, model dengan pemberat terbuka yang menyasarkan secara langsung tahap tertinggi sistem penaakulan. Syarikat itu berkata model tersebut mengatasi sistem proprietari terkemuka dalam pelbagai penilaian mencabar yang mengukur penaakulan langkah demi langkah, ejen pelayaran web dan kejuruteraan perisian. K2 Thinking tersedia melalui platform Moonshot dan Kimi.com, manakala pemberatnya diterbitkan di hab awam untuk pengehosan kendiri di bawah Lesen MIT Terubah Suai yang membenarkan penggunaan komersial dengan syarat atribusi ringan bagi pelaksanaan berskala sangat besar.

Kandungan
  1. Model terbuka yang berkuasa mencabar barisan hadapan
  2. Apakah K2 Thinking dan cara ia berfungsi
  3. Pakar jarang dan kecekapan
  4. INT4 asli dan latihan yang mengambil kira kuantiti
  5. Penanda aras yang dikuasai K2 Thinking
  6. Tugasan carian dan pelayaran berasaskan ejen
  7. Pengekodan dan kejuruteraan perisian
  8. Harga, akses dan lesen
  9. Mengapa perkara ini penting dalam persaingan AI
  10. Kehadiran AI China yang semakin berkembang
  11. Keupayaan dan contoh dunia sebenar
  12. Pengalaman pembangun
  13. Pandangan pakar
  14. Perkara yang masih perlu dibuktikan oleh K2 Thinking
  15. Kesimpulan

Reka bentuk model ini menggabungkan skala dengan kecekapan. K2 Thinking menggunakan seni bina Mixture of Experts dengan jumlah parameter yang dilaporkan sebanyak satu trilion, tetapi hanya kira-kira 32 bilion parameter diaktifkan bagi setiap token yang dijana. Model ini menyokong tetingkap konteks 256,000 token dan dilatih untuk inferens INT4 asli menggunakan latihan yang mengambil kira kuantiti. Persediaan ini mengurangkan kependaman dan keperluan memori, sekali gus membantu menjelaskan harganya yang kompetitif. Selain skor mentah, pelancaran ini mendorong model terbuka ke arah tingkah laku ejen. K2 Thinking menunjukkan perancangan jangka panjang dan penggunaan alat berstruktur merentas 200 hingga 300 panggilan berturutan, serta boleh menghasilkan jejak penaakulan yang telus supaya pengguna dapat meneliti langkah perantara. Keupayaan ini, bersama kos yang lebih rendah, meningkatkan tekanan terhadap pesaing tertutup.

Apakah K2 Thinking dan cara ia berfungsi

K2 Thinking dibina sebagai transformer Mixture of Experts. Sekumpulan besar modul pakar khusus berada di belakang penghala yang memilih sebilangan kecil daripadanya bagi setiap token, sekali gus mengurangkan pengiraan sambil mengekalkan kapasiti. Moonshot menerangkan susunan yang terdiri daripada 61 lapisan, 384 pakar, lapan pakar dipilih bagi setiap token, 64 kepala perhatian, dimensi tersembunyi 7168 dan saiz kosa kata 160,000. Hanya kira-kira 32 bilion parameter aktif pada satu-satu masa, menjadikan inferens terkawal sementara jumlah kapasiti kekal sangat tinggi. Mekanisme perhatian diterangkan sebagai perhatian laten berbilang kepala dengan pengaktifan SwiGLU. Pendekatan ini memfokuskan latihan dan inferens pada pakar yang paling relevan dengan kandungan dalam konteks, sekali gus meningkatkan daya pemprosesan dan ketepatan.

Pakar jarang dan kecekapan

Mixture of Experts membolehkan model berkembang kepada satu trilion parameter tanpa memaksa setiap parameter berjalan bagi setiap token. Dalam praktiknya, ini bermakna model boleh menunjukkan penaakulan lebih mendalam dan pengetahuan lebih luas, sementara jejak memori dan masa setiap langkah kekal dalam julat yang mampu dikendalikan pemecut semasa. Tetingkap konteks 256k membolehkan model memproses pangkalan kod yang besar atau himpunan bahan penyelidikan yang panjang, kemudian merancang melalui banyak langkah sambil memanggil alat. Reka bentuk ini amat sesuai untuk tugasan ejen, yang mungkin melibatkan sistem mencari, membaca, menulis dan mengesahkan hasil melalui puluhan atau ratusan tindakan.

INT4 asli dan latihan yang mengambil kira kuantiti

Moonshot melatih K2 Thinking menggunakan kaedah yang mengambil kira kuantiti supaya model boleh berjalan secara asli dalam INT4 untuk penyimpanan pemberat dan inferens. INT4 menggunakan dua bit bagi setiap nibble untuk nilai setiap parameter, berbanding format berketepatan lebih tinggi, sekali gus mengurangkan keperluan memori dan mempercepat penjanaan. Syarikat itu melaporkan peningkatan kelajuan penjanaan kira-kira dua kali ganda dengan kehilangan kualiti minimum berbanding ketepatan lebih tinggi, dan semua skor penanda aras dilaporkan menggunakan INT4. Hal ini penting dari segi kos dan capaian. Penguji komuniti melaporkan bahawa mereka menjalankan model ini pada sistem desktop kelas tinggi, manakala Moonshot mengesyorkan enjin seperti vLLM, SGLang dan KTransformers. Model ini turut menyokong API yang serasi dengan OpenAI dan Anthropic, sekali gus memudahkan integrasi bagi pasukan yang sudah menggunakan corak tersebut.

Iklan

Penanda aras yang dikuasai K2 Thinking

Dalam ujian awam, model ini mencatat keputusan yang meletakkannya antara sistem penaakulan terbaik yang tersedia, malah menduduki tempat teratas dalam beberapa ujian. Angka yang dilaporkan termasuk 44.9 peratus dalam Humanity’s Last Exam dengan alat diaktifkan, 23.9 peratus dalam tetapan teks sahaja dan 51.0 peratus dalam tetapan berat; 60.2 peratus dalam BrowseComp untuk ejen pelayaran web; 71.3 peratus dalam SWE Bench Verified bagi pembaikan pepijat perisian dengan alat; 83.1 peratus dalam LiveCodeBench v6; dan 56.3 peratus dalam Seal 0. Dalam matematik dan sains, model ini mencapai 94.5 peratus dalam AIME25 tanpa alat, 99.1 peratus dalam AIME25 apabila dibenarkan menjalankan Python, 89.4 peratus dalam HMMT25 tanpa alat dan kira-kira 85 hingga 86 peratus dalam ujian pengetahuan saintifik GPQA Diamond. Skor turut dilaporkan bagi Frames pada 87.0, FinSearchComp T3 pada 47.4 dan SWE Multilingual pada 61.1. Dalam banyak kategori ini, K2 Thinking menyamai atau mengatasi GPT 5, manakala skor BrowseComp mengatasi Claude Sonnet 4.5 dengan jurang yang besar.

Tugasan carian dan pelayaran berasaskan ejen

BrowseComp menguji keupayaan model merancang, mencari di web, mengikuti pautan, merumuskan dapatan dan mengesahkan jawapan. Skor BrowseComp K2 Thinking sebanyak 60.2 peratus mengatasi keputusan GPT 5 yang dilaporkan sebanyak 54.9 peratus dan jauh mengatasi Claude Sonnet 4.5 pada 24.1 peratus. Model ini juga mencatat keputusan kukuh dalam Seal 0 dan Frames, yang mengukur pengumpulan maklumat, perancangan dan konsistensi semasa menggunakan alat. Keputusan ini selaras dengan matlamat reka bentuk model. Penaakulan berselang membolehkan model berhenti seketika, berfikir, memanggil alat, kemudian mengemas kini rancangannya. Sokongan untuk 200 hingga 300 panggilan berturutan membantu mengekalkan keadaan sepanjang banyak langkah, sementara tetingkap konteks yang besar memastikan set kerja kekal dalam memori.

Pengekodan dan kejuruteraan perisian

SWE Bench Verified menilai keupayaan model membaca isu repositori, menghasilkan tampalan dan melepasi ujian. K2 Thinking melaporkan skor 71.3 peratus dengan alat, keputusan yang kukuh bagi sistem berpemberat terbuka. Dalam LiveCodeBench v6, model ini mencapai 83.1 peratus, manakala dalam SWE Multilingual skornya 61.1 peratus. Demonstrasi komuniti menunjukkan model ini boleh membina projek berfungsi daripada satu arahan, termasuk permainan dan aplikasi web lengkap, kemudian melakukan penambahbaikan melalui gelung alat. Konteks panjang membantu navigasi kod, manakala inferens INT4 mengurangkan kependaman semasa sesi pembangunan berpanjangan.

Iklan

Harga, akses dan lesen

K2 Thinking dikeluarkan di bawah Lesen MIT Terubah Suai. Penggunaan komersial dibenarkan, dan pelaksanaan berskala sangat besar mesti menyertakan atribusi ringan. Model ini tersedia di Kimi.com untuk sembang dan boleh diakses melalui API pada Kimi Open Platform. Untuk pengehosan kendiri, pasukan boleh mendapatkan pemberatnya daripada hab model awam seperti Hugging Face di huggingface.co/moonshotai/Kimi-K2-Thinking, manakala dokumentasi platform tersedia di platform.moonshot.ai.

Harganya ditetapkan lebih rendah berbanding alternatif tertutup. Moonshot menyenaraikan harga kira-kira 0.15 dolar bagi setiap satu juta token untuk cache hit, kira-kira 0.60 dolar bagi setiap satu juta token untuk cache miss dan kira-kira 2.50 dolar bagi setiap satu juta token untuk output. Ini berbanding harga GPT 5 sekitar 1.25 dolar bagi setiap satu juta token input dan 10 dolar bagi setiap satu juta token output. Sokongan INT4 asli K2 Thinking mengurangkan kos masa jalan, manakala persediaan Mixture of Experts memastikan hanya sebahagian rangkaian berjalan pada satu-satu masa. Di Kimi.com, mod sembang standard menggunakan set alat terhad untuk pengalaman lebih ringan, jadi hasil di laman itu mungkin tidak sepadan dengan penanda aras ejen sehingga pelancaran mod Agent selesai.

Iklan

Mengapa perkara ini penting dalam persaingan AI

Model terbuka semakin merapatkan jurang dengan sistem tertutup terbaik. Kemenangan K2 Thinking dalam penanda aras menunjukkan penyelidikan terbuka kini mampu bersaing di tahap tertinggi dalam penaakulan, pengekodan dan tugasan ejen. Ini memberi tekanan kepada vendor proprietari supaya membezakan produk melalui kebolehpercayaan, alat keselamatan, sokongan perusahaan dan produk bersepadu, bukan hanya skor utama. Bagi perusahaan, pemberat terbuka memberikan kawalan terhadap data, pematuhan dan jejak pelaksanaan. Bagi pembangun, ia menawarkan cara untuk bereksperimen dengan tingkah laku ejen canggih tanpa membayar kadar premium bagi setiap token.

Kehadiran AI China yang semakin berkembang

Makmal di China bergerak lebih pantas dan semakin mendominasi perbincangan. Nama seperti DeepSeek, Qwen, MiniMax dan Kimi semakin mendapat perhatian, dengan keluaran model yang dilancarkan secara tetap. Model terdahulu MiniMax menetapkan rentak penanda aras terbuka dan asas kos yang lebih rendah. Kini, K2 Thinking melangkah lebih jauh dalam penaakulan jangka panjang dan penggunaan alat oleh ejen. Penganalisis menyatakan bahawa pasukan China sedang mempercepat gelung maklum balas, memanfaatkan penskalaan masa ujian dan menggunakan kekerapan pelancaran sebagai kelebihan, walaupun beberapa tugasan masih memihak kepada sistem tertutup terbaik. Persaingan juga beralih daripada sembang kepada kecerdasan ejen, yang membolehkan sistem merancang, menggunakan alat dan menyelesaikan matlamat kompleks. K2 Thinking disasarkan tepat kepada perubahan itu.

Iklan

Keupayaan dan contoh dunia sebenar

Demonstrasi Moonshot dan ujian pengguna menunjukkan cara model ini menyelesaikan tugasan berpanjangan. Dalam satu demonstrasi, sistem menangani soalan matematik peringkat kedoktoran dengan berulang kali membaca kertas penyelidikan, mengekstrak formula, melaksanakan kod Python dan mengesahkan hasil melalui lebih dua puluh langkah penaakulan dan penggunaan alat sebelum menghasilkan penyelesaian akhir. Demonstrasi lain menunjukkan model melakukan carian berulang untuk mengenal pasti pelakon Jimmy Gary Jr. dan mengesahkan peranan filem tertentu, tugasan yang memerlukan semakan sumber dengan teliti merentasi banyak laman web. Dalam sesi pengekodan, penguji melaporkan bahawa K2 Thinking boleh menghasilkan permainan ala Space Invaders yang berfungsi dalam satu percubaan, kemudian memperhalusinya melalui panggilan alat secara berulang. Penguji lain menunjukkan model ini mereka bentuk laman web lengkap, membina komponen bahagian hadapan dan malah meniru antara muka gaya desktop untuk mengendalikan fail dan menu.

Pengalaman pembangun

Penguji bebas di forum pembangun menggambarkan gabungan kelajuan dan kawalan. Seorang pengguna berpengalaman menjalankan model ini menggunakan perkakasan pengguna biasa dan melaporkan prestasi yang konsisten sepanjang rangkaian alat yang panjang serta arahan bersaiz besar. Pengulas itu menambah bahawa laluan INT4 asli meningkatkan kelajuan sambil mengekalkan kestabilan kualiti.

Dalam ujian saya, model ini mengendalikan sehingga 300 panggilan alat berturutan tanpa kehilangan kesinambungan, satu peningkatan besar berbanding model terdahulu.

Penguji yang sama menyebut tetingkap konteks 256k yang mampu mengendalikan projek kod besar, keupayaan pengekodan berbilang bahasa dan peningkatan praktikal dalam tugasan bahagian hadapan. Daya pemprosesan yang dilaporkan pada mesin desktop kelas tinggi mencecah puluhan hingga ratusan token sesaat, bergantung pada tetapan, menjadikan gelung ejen cukup responsif untuk kerja pembangunan.

Pandangan pakar

Nathan Lambert, seorang penyelidik AI yang memantau model terbuka dan sistem ejen, berpendapat K2 Thinking menandakan titik perubahan bagi pemberat terbuka di tahap prestasi tertinggi. Beliau turut menekankan kepantasan pelancaran dari makmal yang berpangkalan di China.

Pelancaran ini dianggap sebagai pencapaian model terbuka yang paling hampir dengan prestasi barisan hadapan tertutup.

Lambert turut menyentuh kelebihan pihak terbuka dalam kepantasan melancarkan sistem dan lelaran baharu, walaupun model tertutup masih mendahului dalam beberapa bidang.

Model terbuka dilancarkan dengan lebih pantas. Makmal China mengeluarkan model mereka jauh lebih cepat berbanding makmal Barat.

Perkara yang masih perlu dibuktikan oleh K2 Thinking

Keunggulan dalam penanda aras tidak bermakna kelebihan menyeluruh dalam penggunaan produksi. Sesetengah pengguna melaporkan penurunan keupayaan mengingat sekali-sekala dalam konteks yang sangat panjang, cabaran lazim bagi sistem berkonteks besar. Penanda aras juga berbeza dari segi peruntukan alat dan had token penaakulan yang dibenarkan, jadi perbandingan boleh bergantung pada sejauh mana setiap pasukan menggunakan penskalaan masa ujian. Menjalankan ratusan panggilan alat dalam satu sesi turut menimbulkan cabaran pengehosan, kerana penyedia perlu mengendalikan lebih banyak keadaan, lebih banyak panggilan rangkaian dan log yang lebih besar.

Perusahaan akan memantau kestabilan antara versi, kebolehulangan hasil di bawah tetapan tetap dan alat keselamatan yang sesuai dengan aliran kerja sedia ada. Output jejak penaakulan merupakan langkah berguna kerana pasukan boleh meneliti langkah perantara, tetapi pengendali juga perlu menentukan jumlah penaakulan yang perlu direkodkan dan masa untuk menyembunyikan kandungan sensitif. Akhir sekali, reka bentuk terbuka model ini menggalakkan lelaran komuniti yang pantas, satu kelebihan yang juga bermakna pelbagai varian akan muncul dengan pertukaran berbeza dari segi kelajuan, penggunaan memori dan kualiti. Keputusan awalnya menjanjikan, dan ujian berterusan merentasi bahasa, bidang dan perkakasan akan menunjukkan kekuatan sebenar K2 Thinking kepada pembangun.

Kesimpulan

  • Moonshot AI melancarkan Kimi K2 Thinking sebagai model berpemberat terbuka di bawah Lesen MIT Terubah Suai yang membenarkan penggunaan komersial.
  • Model ini menggunakan reka bentuk Mixture of Experts dengan jumlah satu trilion parameter dan kira-kira 32 bilion parameter aktif bagi setiap token.
  • Inferens INT4 asli hasil latihan yang mengambil kira kuantiti mengurangkan kos dan kependaman sambil mengekalkan kualiti.
  • K2 Thinking melaporkan skor 44.9 peratus dalam Humanity’s Last Exam dengan alat dan 60.2 peratus dalam BrowseComp, mengatasi GPT 5 dalam ujian ejen itu.
  • Skor pengekodan termasuk 71.3 peratus dalam SWE Bench Verified dan 83.1 peratus dalam LiveCodeBench v6.
  • Sistem ini menyokong tetingkap konteks 256k dan boleh menjalankan 200 hingga 300 panggilan alat berturutan.
  • Harganya kira-kira 0.15 dolar bagi setiap sejuta token untuk cache hit, 0.60 dolar untuk cache miss dan 2.50 dolar untuk output, jauh lebih rendah berbanding kadar GPT 5.
  • Akses tersedia di Kimi.com, melalui API pada Kimi Open Platform dan menerusi hab awam seperti Hugging Face.
  • Model terbuka dari China, termasuk Kimi, DeepSeek, Qwen dan MiniMax, mendorong pelancaran lebih pantas dan skor penanda aras lebih tinggi.
  • Perkara yang perlu dipantau termasuk kebolehpercayaan konteks panjang, sokongan pengehosan bagi gelung alat berpanjangan dan prestasi dunia sebenar di bawah kekangan produksi.
Kongsi artikel ini

Anda juga mungkin suka