Xiaomi Memecah Rekod Kelajuan AI dengan MiMo-V2.5-Pro-UltraSpeed pada Perkakasan Standard

Bacaan 11 minit
Xiaomi Memecah Rekod Kelajuan AI dengan MiMo-V2.5-Pro-UltraSpeed pada Perkakasan Standard

Pengeluar Telefon yang Baru Mengubah Inferens AI

Pada pagi Isnin yang mengejutkan industri teknologi, Xiaomi melakukan sesuatu yang tidak dijangka ramai pemerhati. Syarikat yang lebih dikenali dengan telefon pintar mampu milik, skuter elektrik dan penulen udara rumah itu mengumumkan bahawa ia telah mengatasi satu halangan besar dalam kelajuan kecerdasan buatan. Mod penyajian baharunya, MiMo-V2.5-Pro-UltraSpeed, menjana lebih 1,000 token sesaat menggunakan model berparameter satu trilion, dengan kelajuan memuncak hampir 1,200 token dalam demonstrasi langsung. Ini bukan versi model yang dipermudah. Ia ialah model utama MiMo-V2.5-Pro sepenuhnya, sistem AI peringkat termaju yang menyaingi Claude Opus dalam penanda aras pengekodan.

Kandungan
  1. Pengeluar Telefon yang Baru Mengubah Inferens AI
  2. Makna Sebenar 1,000 Token Sesaat
  3. Bagaimana Xiaomi Mengatasi Gergasi Cip Tersuai
  4. Tiga Teknik di Sebalik UltraSpeed
  5. Mengapa Kelajuan Membuka Ruang kepada Aplikasi Baharu
  6. Akses, Harga dan Pelancaran Sumber Terbuka
  7. Kebangkitan Senyap Xiaomi sebagai Kuasa Besar AI
  8. Ringkasnya

Pengumuman ini mengejutkan bukan hanya kerana kelajuannya, tetapi juga perkakasan yang membolehkannya. Xiaomi mencapai angka ini menggunakan satu nod standard dengan lapan GPU komoditi, iaitu jenis peralatan yang tersedia daripada mana-mana penyedia awan utama. Tiada silikon tersuai. Tiada cip khusus sebesar pinggan makan. Hanya inovasi perisian yang beroperasi pada perkakasan yang boleh disewa oleh pembangun malam ini.

Parameter ialah pemberat berangka dalaman yang menentukan cara model AI memproses maklumat. Satu trilion parameter bermakna model itu boleh mengenali corak yang sangat rumit dalam teks dan kod. Token ialah cebisan teks yang dibaca dan ditulis oleh model, dengan setiap satunya kira-kira bersamaan tiga perempat daripada satu perkataan. Menjana lebih 1,000 token sesaat bermakna sistem besar ini beroperasi pada kelajuan yang sebelum ini dianggap mustahil tanpa perkakasan khusus.

Selama bertahun-tahun, persaingan untuk mempercepat inferens AI dikuasai syarikat pemula cip yang dibiayai besar-besaran dan menghasilkan reka bentuk silikon tersuai. Xiaomi baru sahaja membuktikan bahawa kejuruteraan bijak menggunakan peralatan standard boleh mengatasi mereka semua. Pencapaian ini menimbulkan persoalan penting sama ada perkakasan khusus yang mahal benar-benar diperlukan apabila pengoptimuman perisian pintar mampu memberikan hasil yang lebih baik pada infrastruktur yang mudah diakses.

Iklan

Makna Sebenar 1,000 Token Sesaat

Untuk memahami kepentingan angka ini, lihat pengalaman pengguna harian pada masa ini. Menurut data penanda aras daripada Artificial Analysis, GPT-5.5, model yang menggerakkan kebanyakan perbualan ChatGPT, menjana kira-kira 68 token sesaat. Claude Opus 4.6 beroperasi pada sekitar 71 token sesaat, manakala model Haiku Anthropic yang lebih ringan mencapai 98. Gemini Flash Google bergerak lebih pantas, pada 192 token sesaat. MiMo-V2.5-Pro-UltraSpeed mencapai 1,000 token sesaat menggunakan model berparameter satu trilion, hampir 15 kali lebih pantas berbanding chatbot yang digunakan jutaan orang setiap hari.

Jurang antara 68 dengan 1,000 bukan sekadar peningkatan kecil. Ia mewakili kategori prestasi yang sama sekali berbeza. Pada kelajuan pengguna semasa, mereka menunggu beberapa saat untuk melihat satu perenggan teks muncul. Pada kelajuan baharu Xiaomi, satu halaman penuh analisis boleh terhasil hampir serta-merta. Bagi pembangun yang menjalankan ejen pengekodan, perbezaan ini mengubah pengalaman daripada proses berbalas-balas yang tertangguh kepada sesuatu yang menyerupai kerjasama masa nyata.

Token ialah unit asas model bahasa besar. Apabila anda menaip gesaan, model memecahkan teks anda kepada token untuk diproses. Apabila membalas, model menjana token satu demi satu, dengan meramalkan setiap token berdasarkan semua yang mendahuluinya. Semakin pantas model menjana token, semakin responsif rasanya dan semakin banyak tugas yang boleh diselesaikan dalam had masa yang ketat. Kelajuan juga menentukan jumlah permintaan yang boleh dikendalikan oleh pelayan secara serentak, sekali gus mempengaruhi kos dan kebolehskalaan bagi perniagaan.

Model Flash terdahulu MiMo-V2.5-Pro sudah pun menjana respons pada kelajuan 150 token sesaat, kira-kira 110 perkataan sesaat, lebih pantas daripada kelajuan membaca atau bercakap manusia terpantas. UltraSpeed menaikkan had itu dengan ketara, menghasilkan kadar penjanaan yang mengatasi keupayaan kognitif manusia dan membolehkan aliran kerja dipacu mesin yang sebelum ini tidak mungkin dilakukan.

Iklan

Bagaimana Xiaomi Mengatasi Gergasi Cip Tersuai

Halangan kelajuan inferens AI telah menarik pelaburan ratusan juta dolar daripada syarikat yang membina perkakasan khusus. Cerebras mereka cip berskala wafer sebesar kira-kira pinggan makan, dengan memori pada cip sebanyak 44GB bagi menghapuskan kekangan lebar jalur. Reka bentuk itu mencapai 969 token sesaat, satu pencapaian mengagumkan, tetapi menggunakan Llama 3.1 405B Meta, model berparameter 405 bilion. Saiznya kurang daripada separuh MiMo-V2.5-Pro. Groq membina seni bina Unit Pemprosesan Bahasa tersuai yang mampu mencapai 300 hingga 750 token sesaat, bergantung pada model. Kedua-dua sistem ini tidak beroperasi pada perkakasan awan standard yang boleh disewa pembangun daripada penyedia seperti AWS.

Pendekatan Xiaomi membalikkan sepenuhnya model itu. Bekerjasama dengan rakan kongsi inferens TileRT, syarikat itu mencatat rekodnya menerusi pendekatan yang disebutnya reka bentuk bersama sistem model ekstrem, iaitu pengoptimuman terselaras bagi model AI dan enjin perisian yang menyediakannya. Hasilnya ialah model berparameter satu trilion yang beroperasi lebih pantas daripada silikon khusus pada GPU komoditi. Jika ujian bebas mengesahkan penanda aras ini, pencapaian tersebut menunjukkan bahawa inovasi perisian boleh mengatasi batasan perkakasan yang dianggap ramai hanya boleh diselesaikan dengan cip tersuai.

Perkembangan ini membawa kesan ekonomi yang nyata. Silikon tersuai memerlukan perbelanjaan modal yang besar, kitaran reka bentuk yang panjang dan pembuatan khusus. GPU komoditi mendapat manfaat daripada ekonomi skala, ketersediaan meluas dan penambahbaikan berterusan oleh NVIDIA serta pengeluar lain. Dengan menyelesaikan masalah inferens melalui perisian, Xiaomi berpotensi mendemokrasikan akses kepada kelajuan yang sebelum ini hanya tersedia kepada makmal bermodal besar dengan perkakasan proprietari.

Pelancaran titik semak FP4-DFlash di Hugging Face menambah satu lagi dimensi kepada usaha pendemokrasian ini. Penyelidik dan pembangun di seluruh dunia kini boleh meneliti, menguji dan menyesuaikan model asas itu tanpa membeli perkakasan proprietari atau mendapatkan lesen perusahaan. Pengesahan komuniti akan menentukan sama ada teknik ini boleh digunakan secara meluas pada model dan kes penggunaan yang berbeza.

Iklan

Tiga Teknik di Sebalik UltraSpeed

Kejayaan ini bergantung pada tiga teknik terselaras yang berfungsi bersama. Tiada satu pun mampu mencatat rekod kelajuan itu secara bersendirian, tetapi gabungannya meningkatkan prestasi melepasi ambang 1,000 token.

Teknik pertama ialah pengkuantuman FP4. Kebanyakan model besar beroperasi pada ketepatan berangka 16 bit atau 8 bit, bermakna setiap parameter memerlukan dua bait atau satu bait memori. Xiaomi memampatkan lapisan pakar, yang merangkumi sebahagian besar daripada satu trilion parameter itu, kepada ketepatan 4 bit. Ini mengurangkan jejak memori dan tekanan lebar jalur, sekali gus membolehkan data bergerak lebih pantas dalam sistem. Risiko pengkuantuman ialah kehilangan mutu, kerana ketepatan yang lebih rendah boleh menjejaskan keupayaan penaakulan model. Penyelesaian Xiaomi dibuat secara terpilih; hanya lapisan pakar dimampatkan manakala bahagian model yang lain kekal pada ketepatan penuh. Syarikat itu menyifatkan kehilangan mutu yang terhasil sebagai hampir sifar.

Teknik kedua ialah penyahkodan spekulatif DFlash. Penyahkodan spekulatif tradisional menggunakan model draf yang lebih kecil untuk meneka beberapa token seterusnya dengan pantas, kemudian model besar mengesahkan tekaan itu secara selari. DFlash menghapuskan sepenuhnya langkah pendrafan berjujukan. Sebaliknya, ia mengisi satu blok penuh posisi bertopeng dalam satu laluan hadapan. Semasa tugas pengekodan, model besar menerima purata 6.3 daripada 8 token yang dicadangkan bagi setiap pusingan pengesahan. Ini bermakna enam token bergerak ke hadapan dalam satu langkah, bukannya satu, sekali gus mempercepat penjanaan dengan ketara.

Komponen ketiga ialah TileRT sendiri, enjin inferens yang memastikan keseluruhan saluran pengkomputeran sentiasa berada dalam GPU. Sistem penyajian standard sering melancarkan operator satu demi satu, lalu mewujudkan jurang kecil dalam pelaksanaan. TileRT menghapuskan masa tambahan bagi pelancaran setiap operator dan memastikan aliran data berjalan tanpa gangguan. Apabila digabungkan dengan pemberat model yang dimampatkan dan strategi penyahkodan lanjutan, enjin itu mengekalkan kadar pemprosesan yang sebelum ini tidak dapat dicapai pada perkakasan standard.

Xiaomi menamakan gabungan ini reka bentuk bersama sistem model ekstrem, dan istilah itu tepat. Setiap lapisan pengoptimuman saling memperkukuh, menghasilkan sesuatu yang mengatasi kemampuan setiap teknik jika digunakan secara berasingan.

Iklan

Mengapa Kelajuan Membuka Ruang kepada Aplikasi Baharu

Penanda aras mentah tidak bermakna jika tidak membolehkan sesuatu yang baharu. Pada 1,000 token sesaat, MiMo-V2.5-Pro-UltraSpeed membuka peluang yang masih tidak dapat dimanfaatkan oleh sistem lebih perlahan.

Fikirkan cara pembangun menggunakan model bahasa besar untuk tugas rumit pada masa ini. Apabila berdepan masalah pengekodan yang sukar, pengguna biasanya menunggu satu jawapan dan berharap jawapan itu betul. Dengan UltraSpeed, pengguna yang sama boleh menjalankan berpuluh-puluh laluan penaakulan secara selari dalam tempoh masa nyata yang sama, sambil pengesahan automatik dan pembetulan kendiri dilakukan di latar belakang. Model itu boleh meneroka berbilang penyelesaian serentak, bukannya berpegang pada satu rangkaian pemikiran. Keupayaan ini mengubah AI secara asasnya daripada pembantu berjujukan kepada penyelesai masalah selari.

Industri yang mempunyai kekangan kependaman ketat boleh meraih manfaat serta-merta. Sistem pengesanan penipuan mesti menilai transaksi dalam beberapa milisaat. Penjanaan isyarat dagangan masa nyata tidak boleh menerima kelewatan beberapa saat. Gelung ejen autonomi, iaitu sistem AI memerhati, membuat keputusan dan bertindak dalam kitaran pantas, memerlukan kelajuan yang tidak mampu diberikan oleh chatbot pengguna. Pada 68 token sesaat, aplikasi ini berdepan halangan yang mengecewakan. Pada 1,000 token sesaat, ia boleh dilaksanakan menggunakan infrastruktur awan standard.

Walaupun dalam aliran kerja pengekodan harian, kelajuan ini mengubah pengalaman pengguna. Sebelum ini, pembangun menatap skrin sementara menunggu inferens selesai. Dengan output menghampiri dan melebihi 1,000 token sesaat, kelewatan itu pada asasnya lenyap. Interaksi berubah daripada meminta dan menunggu kepada kerjasama masa nyata yang sebenar dengan rakan AI. Aplikasi penjagaan kesihatan yang memerlukan analisis pantas data pesakit dan platform pelaburan yang memproses suapan pasaran langsung juga mendapat manfaat praktikal serta-merta daripada tahap responsif ini.

Iklan

Akses, Harga dan Pelancaran Sumber Terbuka

Xiaomi tidak menyimpan teknologi ini di sebalik pintu berkunci. Syarikat itu melancarkan percubaan API terhad dari 9 Jun hingga 23 Jun 2026. Akses memerlukan permohonan dan kelulusan tidak dijamin. Keutamaan diberikan kepada pengguna perusahaan dan pembangun profesional yang mempunyai keperluan perniagaan yang jelas. Oleh sebab sumber inferens berkelajuan tinggi terhad, setiap akaun boleh menyertai barisan menunggu sehingga sepuluh kali sehari, dengan setiap sesi dihadkan kepada 30 minit. Sesi yang tidak aktif selama lebih daripada lima minit akan ditamatkan secara automatik.

Struktur harga mencerminkan sifat premium kelajuan ini. UltraSpeed berharga tiga kali ganda kadar standard MiMo-V2.5-Pro, tetapi memberikan kelajuan penjanaan kira-kira sepuluh kali ganda. Sebagai perbandingan, harga standard MiMo-V2.5-Pro sudah pun jauh lebih rendah berbanding Claude Opus, iaitu kira-kira $0.43 bagi setiap sejuta token input dan $0.87 bagi setiap sejuta token output, berbanding Opus pada $5 bagi input dan $25 bagi output untuk setiap sejuta token. Walaupun pada kadar tiga kali ganda, tawaran dipercepat Xiaomi masih jauh lebih murah berbanding banyak model termaju pesaing.

Bagi pembangun yang mahu menguji teknologi ini secara langsung, Xiaomi telah melancarkan titik semak asas MiMo-V2.5-Pro-FP4-DFlash sebagai sumber terbuka di Hugging Face. TileRT turut melancarkan modul terpilih di GitHub. Langkah ini mengundang komuniti penyelidikan global untuk mengesahkan penanda aras, bereksperimen dengan seni bina itu dan berpotensi menyesuaikan teknik tersebut untuk model lain. Pengesahan bebas oleh pihak ketiga belum diterbitkan secara meluas, maka ujian komuniti melalui pelancaran terbuka ini akan menjadi bukti sebenar dalam beberapa minggu akan datang.

Iklan

Kebangkitan Senyap Xiaomi sebagai Kuasa Besar AI

Bagi kebanyakan pengguna, Xiaomi kekal sebagai jenama yang menjual barangan elektronik mampu milik. Syarikat itu telah menjual jutaan telefon pintar, skuter elektrik dan penulen udara di pasaran global. Imej sebagai jenama pengguna ini menutupi bahagian kecerdasan buatan yang terus berkembang, tetapi diabaikan oleh kebanyakan industri sehingga kini.

MiMo-V2.5-Pro sudah pun menyamai Claude Opus dalam kebanyakan penanda aras pengekodan apabila dilancarkan pada April. UltraSpeed bukan model baharu atau model yang dipermudah. Ia mempercepat kecerdasan tahap termaju yang sama, yang sebelum ini sudah bersaing di peringkat tertinggi. Jenama telefon ini pada hakikatnya telah membina keupayaan AI yang menyaingi makmal khusus, sambil mengekalkan harga yang kira-kira sepuluh kali lebih rendah.

Jika dakwaan kelajuan itu terbukti dalam penelitian bebas, Xiaomi telah mencapai sesuatu yang luar biasa tanpa pelaburan ratusan juta dolar dalam silikon tersuai seperti yang diperlukan oleh syarikat seperti Cerebras dan Groq. Syarikat itu telah menunjukkan bahawa pengoptimuman perisian pada perkakasan komoditi boleh menghasilkan prestasi yang menerajui kategorinya. Hasil itu akan mengubah andaian tentang sumber keupayaan AI dan pihak yang mampu bersaing di peringkat termaju. Gergasi elektronik pengguna dari Beijing kini menyertai kelompok teratas inovator infrastruktur AI, dengan membawa GPU standard dan bukannya silikon tersuai.

Ringkasnya

  • MiMo-V2.5-Pro-UltraSpeed Xiaomi menjana lebih 1,000 token sesaat menggunakan model berparameter satu trilion dan hanya lapan GPU komoditi standard, tanpa memerlukan silikon tersuai.
  • Kelajuannya kira-kira 15 kali lebih pantas daripada GPT-5.5 dan Claude Opus, dicapai melalui pengkuantuman FP4, penyahkodan spekulatif DFlash dan enjin inferens TileRT.
  • Percubaan API terhad berlangsung dari 9 hingga 23 Jun 2026, dengan harga tiga kali ganda kadar standard MiMo untuk kelajuan penjanaan kira-kira sepuluh kali ganda. Keutamaan diberikan kepada pembangun perusahaan dan profesional.
  • Xiaomi telah melancarkan titik semak FP4-DFlash sebagai sumber terbuka di Hugging Face, membolehkan komuniti mengesahkan dan menyesuaikan teknik tersebut.
  • Jika disahkan secara bebas, kejayaan ini menunjukkan bahawa pengoptimuman perisian pada perkakasan awan standard boleh mengatasi penyelesaian cip tersuai yang mahal daripada syarikat perkakasan AI khusus.
Kongsi artikel ini

Anda juga mungkin suka