Xiaomi MiMo Mencapai 1,000 Token Sesaat pada GPU Komersial Tanpa Cip Khusus

Rekod Kelajuan Baharu dalam Kecerdasan Buatan

Pada 8 Jun 2026, Xiaomi melancarkan MiMo V2.5 Pro UltraSpeed, mod inferens yang membolehkan model bahasa dengan satu trilion parameter melepasi 1,000 token sesaat pada unit pemprosesan grafik awan standard. Pencapaian ini menandakan kali pertama model pada skala ini melepasi paras tersebut tanpa bergantung pada cip tersuai atau perkakasan khusus. Demo dalaman menunjukkan daya pemprosesan puncak menghampiri 1,200 token sesaat secara berterusan pada satu nod komoditi yang dilengkapi lapan GPU.

Untuk memahami kepentingannya, bandingkan dengan penanda aras awam semasa. GPT 5.5 OpenAI menjana kira-kira 68 token sesaat. Claude Opus 4.6 beroperasi pada kira-kira 71 token sesaat, manakala Google Gemini Flash mencapai 192. Mod UltraSpeed Xiaomi memberikan kelajuan output kira-kira 15 kali ganda berbanding pengalaman ChatGPT standard, dan ia beroperasi pada model yang sudah pun bersaing dengan sistem termaju dalam penilaian kejuruteraan perisian.

Model yang menjadi asas kepada kelajuan ini ialah MiMo V2.5 Pro, seni bina Mixture of Experts dengan 1.02 trilion parameter dan tetingkap konteks sejuta token. Tidak seperti kebanyakan pesaing, sistem ini memproses teks, imej, audio dan video secara natif dalam satu model. Xiaomi mengeluarkan checkpoint asas di bawah lesen sumber terbuka MIT, membolehkan pembangun mengehos sendiri, memperhalus dan menggunakan sistem ini secara komersial tanpa yuran lesen.

Kebangkitan Xiaomi yang Tidak Dijangka dalam Kecerdasan Buatan

Kebanyakan pengguna mengaitkan Xiaomi dengan telefon pintar mampu milik, skuter elektrik dan, semakin ketara, kenderaan elektrik. Syarikat itu menghantar 33.8 juta telefon bimbit pada suku pertama 2026 dan menyerahkan lebih 30,000 kenderaan elektrik pada bulan Mei sahaja. Namun, di sebalik produk pengguna ini terdapat bahagian kecerdasan buatan khusus yang membangunkan model bahasa besar sejak April 2025, ketika syarikat itu melancarkan model penaakulan kompak dengan 7 bilion parameter.

Dalam tempoh 14 bulan sejak itu, keluarga MiMo berkembang menjadi antara rangkaian pemberat terbuka yang lebih kompetitif. Model utama semasa, MiMo V2.5 Pro, dilancarkan pada 22 April 2026. Prestasinya dalam penanda aras hampir setanding Claude Opus 4.6 untuk tugasan kejuruteraan perisian, tetapi kosnya kira-kira satu perlapan daripada harga bagi setiap token. Harga standard model asas ialah 0.025 yuan bagi setiap sejuta token untuk cache hit, 3 yuan bagi setiap sejuta token input untuk cache miss, dan 6 yuan bagi setiap sejuta token output.

Pengumuman pada 8 Jun memperkenalkan UltraSpeed sebagai mod penyajian berprestasi tinggi yang ditambah terus pada model sedia ada ini. Peningkatan kelajuan bukan hasil perubahan pada pemberat atau seni bina model, sebaliknya sepenuhnya daripada pengoptimuman inferens, satu pencapaian perisian yang mencabar andaian tentang keupayaan perkakasan komoditi.

Kos Kelajuan dalam AI Moden

Kelajuan inferens menjadi medan persaingan penting bagi model bahasa besar. Kadar sistem menjana token bukan sahaja menentukan seberapa pantas pengguna menerima jawapan, tetapi juga aplikasi yang berdaya maju dari segi ekonomi dan teknikal. Model yang menjana 68 token sesaat berfungsi dengan baik untuk antara muka sembang, apabila pengguna membaca mengikut kelajuan masing-masing. Namun, kelajuan itu tidak memadai untuk tugasan sensitif terhadap kependaman seperti pengesanan penipuan masa nyata, isyarat dagangan frekuensi tinggi atau ejen pengekodan autonomi yang perlu mengulangi beberapa langkah penaakulan dalam masa beberapa saat.

Menyedari kekangan ini, beberapa syarikat pemula membina perniagaan mereka berasaskan cip tersuai. Cerebras mereka cip berskala wafer kira-kira sebesar pinggan makan, dengan memori pada cip 44 gigabait untuk menghapuskan kekangan lebar jalur yang memperlahankan inferens GPU konvensional. Sistem itu mencapai kira-kira 969 token sesaat pada Llama 3.1 405B Meta, model dengan kurang daripada separuh jumlah parameter MiMo V2.5 Pro. Groq membangunkan seni bina Unit Pemprosesan Bahasa tersuai yang mampu mencapai 300 hingga 750 token sesaat, bergantung pada model. Kedua-dua platform ini tidak beroperasi pada perkakasan yang tersedia melalui perkhidmatan sewaan awan standard.

Pendekatan Xiaomi menolak perlumbaan perkakasan ini. Dengan mengoptimumkan perisian dan reka bentuk model secara serentak, syarikat itu mencapai kelajuan setanding pada GPU komoditi yang boleh disewa. Secara teori, mana-mana pembangun yang mempunyai akses kepada nod standard dengan lapan GPU boleh menghasilkan semula keputusan itu, satu perubahan yang berpotensi mengalihkan kelebihan persaingan daripada pengeluar cip khusus kepada inovasi algoritma.

Memampatkan Kecerdasan dengan Pengkuantuman FP4

Teras pertama UltraSpeed ialah pemampatan berangka agresif yang dipanggil pengkuantuman FP4. Inferens model standard lazimnya menyimpan pemberat pada ketepatan 16 bit atau 8 bit. Setiap parameter memerlukan sejumlah lebar jalur memori, dan pada skala trilion parameter, pemindahan pemberat dari memori ke teras pemprosesan sahaja sudah mewujudkan kesesakan yang mengehadkan kelajuan penjanaan.

Penyelesaian Xiaomi menggunakan ketepatan 4 bit secara terpilih. Seni bina Mixture of Experts mempunyai banyak lapisan pakar yang menampung sebahagian besar parameter dan lebih tahan terhadap pengurangan ketepatan. Xiaomi memampatkan hanya lapisan pakar ini kepada format MXFP4, sementara modul model lain dikekalkan pada ketepatan lebih tinggi, yang dilaporkan sebagai FP8. Pendekatan terpilih ini mengecilkan jejak memori tanpa menjejaskan kualiti output kerana Latihan Sedar Pengkuantuman menyepadukan pemampatan itu dalam proses pembelajaran model. Penanda aras menunjukkan varian terkuantum berprestasi hampir setara dengan versi asal berketepatan penuh.

Oleh sebab lapisan pakar merangkumi sebahagian besar model, pemampatan terpilih ini mengurangkan dengan ketara jumlah data yang perlu dipindahkan melalui memori pada setiap langkah penjanaan. Penjimatan lebar jalur diterjemahkan secara langsung kepada daya pemprosesan yang lebih tinggi.

Membuat Ramalan Secara Serentak melalui Penyahkodan Spekulatif DFlash

Teras kedua menangani sifat penjanaan bahasa yang berjujukan. Lazimnya, model menghasilkan token satu demi satu, dengan setiap token baharu bergantung pada semua token sebelumnya. Penyahkodan spekulatif menawarkan jalan pintas: model draf yang lebih kecil pantas meneka beberapa token seterusnya, kemudian model sasaran yang lebih besar mengesahkan semua tekaan itu secara serentak. Apabila tekaan tepat, sistem menjimatkan masa. Namun, penyahkodan spekulatif tradisional masih memaksa model draf menjana tekaan secara berjujukan, sekali gus mengehadkan manfaatnya.

DFlash, kaedah daripada komuniti penyelidikan yang diperhalus oleh Xiaomi, menghapuskan sepenuhnya kekangan berjujukan ini. Daripada meneka token satu demi satu, model draf mengisi seluruh blok kedudukan bertopeng dalam satu laluan ke hadapan. Xiaomi menala proses ini menggunakan pengoptimum tertib kedua Muon dan penyulingan kendiri model. Model draf menggunakan Perhatian Tetingkap Gelongsor sahaja, memastikan kos pengiraan bagi setiap ramalan kekal tetap tanpa mengira panjang perbualan.

Dalam senario pengekodan, sistem mencapai purata panjang penerimaan 6.3 token bagi setiap pusingan pengesahan, daripada saiz blok yang dihadkan kepada 8 token. Ini bermakna model besar mengesahkan enam atau tujuh token dalam satu langkah, berbanding menjana token tersebut secara individu. Oleh sebab pensampelan penolakan memastikan hanya token yang sah diterima, output kekal sama secara matematik dengan penyahkodan standard. Peningkatan kelajuan ini tidak menjejaskan kualiti.

Menghapuskan Jeda Mikrosaat dengan TileRT

Teras ketiga menyasarkan kesesakan tersembunyi yang hanya timbul pada kelajuan ekstrem. Apabila inferens melepasi 1,000 token sesaat, setiap operator matematik beroperasi hanya selama beberapa mikrosaat. Sistem penyajian tradisional melancarkan operator satu demi satu, dengan jeda kecil antara setiap pelancaran. Pada kelajuan biasa, jeda ini boleh diabaikan. Pada tahap UltraSpeed, jeda itu memecahkan aliran pelaksanaan dan menjadi kesesakan utama.

TileRT, yang dibangunkan bersama rakan kongsi inferens TileRT, menyelesaikan masalah ini dengan Kernel Enjin Berterusan yang kekal aktif di dalam GPU. Daripada memulakan dan menghentikan operasi, kernel itu menggunakan Pengkhususan Warp untuk menugaskan benang perkakasan tertentu kepada pergerakan data, pengiraan dan komunikasi dalam peranan yang diselaraskan. Operasi kecil seperti RMSNorm, benaman kedudukan putaran dan penulisan cache KV, yang biasanya menyebabkan kelewatan berskala mikrosaat, dapat dilaksanakan tanpa gangguan.

Sistem ini direka bersama pilihan FP4 dan DFlash, bukannya ditambah kemudian. Reka bentuk bersama sistem model ekstrem ini memastikan ketiga-tiga lapisan diselaraskan dengan rapat. Xiaomi menyatakan secara jelas bahawa tiada satu pun daripada tiga teknik itu mampu mencapai 1,000 token sesaat secara bersendirian. Hanya gabungan ketiga-tiganya menghasilkan rekod tersebut.

Kesan Dunia Sebenar dan Konteks Perniagaan

Ambang 1,000 token mengubah aplikasi yang sesuai menggunakan model kelas termaju. Penaakulan selari menjadi praktikal, membolehkan sistem menjalankan berpuluh-puluh laluan penaakulan Best of N atau carian pepohon dalam tempoh masa sebenar yang sama seperti diperlukan model lebih perlahan untuk satu laluan sahaja. Ejen pengekodan mendapat manfaat kerana penjanaan lebih pantas mengurangkan masa menunggu antara langkah autonomi. Gelung keputusan masa nyata dalam penjanaan isyarat dagangan, pemintasan penipuan dan sistem dialog langsung menjadi lebih berdaya maju apabila kependaman turun di bawah ambang persepsi manusia.

Xiaomi menunjukkan kesan praktikalnya melalui demo awam. Permainan Snake yang berfungsi sepenuhnya dijana dalam kira-kira 10 saat. Prototaip antara muka macOS pula muncul dalam kira-kira satu minit. Tugasan ini terikat pada daya pemprosesan, iaitu kelajuan token mentah menjadi faktor pembatas.

Akses kepada UltraSpeed disediakan melalui percubaan API terhad berasaskan permohonan dari 9 hingga 23 Jun 2026. Harganya tiga kali ganda kadar standard MiMo V2.5 Pro, bersamaan kira-kira $1.29 bagi setiap sejuta token input dan $2.61 bagi setiap sejuta token output berdasarkan pengiraan kadar pertukaran semasa. Xiaomi menjanjikan kelajuan penjanaan kira-kira 10 kali ganda pada harga premium itu. Perkhidmatan langganan Pelan Token tidak terpakai untuk UltraSpeed. Pengguna yang diluluskan menerima akses Sembang percuma selama dua minggu dengan had harian: 10 entri baris gilir bagi setiap akaun, had sesi 30 minit dan pelepasan sumber secara automatik selepas lima minit tidak aktif.

Walaupun pencapaian teknikal ini, pasaran kewangan tidak memberikan reaksi ketara. Saham Xiaomi ditutup pada €2.91 pada 11 Jun, hanya 1.75% melebihi paras terendah 52 minggu dan mencatatkan penurunan 35% sejak awal tahun. Syarikat itu terus mempelbagaikan perniagaan, melancarkan telefon pintar premium 17T di India pada hari yang sama dengan pelancaran pembantu MiMo Code, serta meneruskan peluasan kenderaan elektrik bersama bandar Changchun. Sama ada momentum operasi dapat memulihkan prestasi saham bergantung pada data pendapatan yang akan datang.

Pelepasan Sumber Terbuka dan Persoalan Pengesahan

Xiaomi telah membuka sumber checkpoint MiMo V2.5 Pro FP4 DFlash di Hugging Face, termasuk pemberat terkuantum dan parameter DFlash. TileRT telah menerbitkan modul terpilih di GitHub. Ketelusan ini membuka ruang kepada pengujian bebas oleh komuniti, yang penting kerana semua dakwaan kelajuan semasa berpunca daripada penanda aras dalaman Xiaomi. Setakat ini, belum ada pengesahan pihak ketiga bebas diterbitkan.

Penghasilan semula oleh komuniti akan menguji beberapa persoalan yang masih terbuka. Pertama, sama ada angka 1,000 token sesaat dicapai pada penggunaan GPU lazim di luar persekitaran percubaan terkawal Xiaomi. Kedua, sama ada kemerosotan kualiti muncul dalam tugasan perbualan terbuka, yang kadar penerimaan penyahkodan spekulatifnya kini lebih rendah berbanding tugasan pengekodan berstruktur. Ketiga, sama ada pendekatan kernel berterusan TileRT boleh disepadukan dengan tindanan penyajian standard yang sudah digunakan dalam persekitaran produksi.

Jika ujian bebas mengesahkan dakwaan tersebut, Xiaomi berjaya mencapai melalui perisian apa yang cuba dicapai pesaing dengan cip tersuai yang menelan belanja ratusan juta dolar. Hasil ini menunjukkan bahawa reka bentuk bersama algoritma boleh membuka tahap prestasi yang sebelum ini dianggap memerlukan perkakasan khusus, sekali gus berpotensi mengalihkan hala tuju pelaburan dalam seluruh industri kecerdasan buatan.

Perkara Utama

• MiMo V2.5 Pro UltraSpeed Xiaomi menjadi model trilion parameter pertama yang melebihi 1,000 token sesaat pada GPU komoditi standard apabila dilancarkan pada 8 Jun 2026.
• Kelajuan itu dicapai melalui tiga teknik yang diselaraskan: pengkuantuman lapisan pakar FP4, penyahkodan spekulatif peringkat blok DFlash dan masa jalan GPU berterusan TileRT.
• Model MiMo V2.5 Pro yang menjadi asasnya mencatat prestasi hampir setanding Claude Opus 4.6 untuk tugasan pengekodan, dengan kos kira-kira satu perlapan harga bagi setiap token.
• Tidak seperti pesaing seperti Cerebras dan Groq, Xiaomi mencapai rekod itu tanpa cip tersuai, menggunakan nod standard dengan lapan GPU yang tersedia melalui penyedia awan.
• Checkpoint MiMo V2.5 Pro FP4 DFlash tersedia di Hugging Face di bawah lesen sumber terbuka MIT, manakala modul TileRT tersedia di GitHub.
• Percubaan API terhad berlangsung dari 9 hingga 23 Jun 2026, dengan harga tiga kali ganda kadar standard untuk kelajuan penjanaan kira-kira 10 kali ganda.
• Saham Xiaomi kekal berhampiran paras terendah 52 minggu walaupun mencatat pencapaian teknikal, dengan harga saham merosot 35% sejak awal tahun setakat pertengahan Jun 2026.