Dakwaan Kos Latihan DeepSeek $294,000 Diteliti: Mengapa Kos Sebenar R1 Mencecah Jutaan Dolar

Mengapa tanda harga $294,000 mengejutkan dunia AI

Apabila DeepSeek menerbitkan kertas kerja yang melalui semakan rakan sebaya mengenai model penaakulannya, R1, dalam jurnal Nature, satu angka menarik perhatian dunia: 294,000 dolar. Tajuk berita membayangkan model unggulan itu dilatih dengan kos sebahagian kecil daripada perbelanjaan yang dilaporkan oleh pesaing AS. Angka itu benar, tetapi hanya merangkumi sebahagian kecil daripada keseluruhan kerja. Jumlah itu meliputi peringkat pembelajaran pengukuhan terakhir yang mempertajam penaakulan model langkah demi langkah. Ia tidak termasuk latihan awal selama berbulan-bulan pada model asas yang jauh lebih besar, yang menjadi sandaran R1.

Prestasi R1 bergantung pada DeepSeek V3, sebuah model bahasa besar yang dilatih menggunakan korpus yang sangat besar dengan kluster pengkomputeran berskala besar. Hanya selepas asas mahal itu tersedia, pasukan tersebut menjalankan pembelajaran pengukuhan untuk mendorong model ke arah logik dan penyelesaian masalah yang lebih baik. Kekeliruan antara langkah akhir dengan keseluruhan projek itulah yang menjadikan satu komponen kos khusus sebagai tajuk berita.

Perbezaan ini penting. Model yang menyaingi sistem terbaik dalam pengekodan dan matematik tidak terhasil daripada hujung minggu menggunakan beberapa rak cip. Ia memerlukan pengkomputeran berterusan, pemilihan dan penyusunan data yang menyeluruh, eksperimen berulang, kerja keselamatan dan penilaian yang teliti, serta fasa pengoptimuman terakhir. Kertas kerja Nature membuka ruang berharga untuk memahami fasa terakhir itu. Namun, ia tidak menafikan usaha besar yang mendahuluinya.

Perkara sebenar yang dinyatakan dalam kertas kerja Nature

Bahan tambahan R1 memperincikan satu latihan pembelajaran pengukuhan menggunakan 512 GPU Nvidia H800. Ia menerangkan tempoh latihan awal R1 Zero selama kira-kira 198 jam dan tambahan 80 jam untuk menghasilkan R1 yang dilancarkan. Pasukan itu turut merekodkan kira-kira 5,000 jam GPU untuk menjana data keutamaan yang digunakan dalam proses tersebut. Jika dikira berdasarkan kadar sewaan lazim bagi pemecut kelas H800, jumlah kos bagi langkah-langkah itu kurang sedikit daripada 300,000 dolar. Angka itu tidak mewakili keseluruhan masa dan pengkomputeran yang diperlukan untuk membina model tercanggih dari awal.

Kertas kerja itu turut menjelaskan konteks perkakasan. DeepSeek terutamanya melatih R1 menggunakan H800, cip yang direka Nvidia untuk China selepas peraturan eksport AS mengehadkan akses kepada pemecut yang lebih canggih. Pasukan itu mengakui menggunakan GPU A100 untuk kerja persediaan dengan model yang lebih kecil, sebelum beralih kepada H800 bagi latihan pembelajaran pengukuhan utama R1. Pembaca boleh meneliti butiran teknikal dan pecahan kos dalam bahan semakan rakan sebaya yang diterbitkan oleh jurnal Nature.

Kos sebenar membina R1 bermula dengan latihan awal V3

Bahan DeepSeek sendiri menunjukkan komponen kos terbesar: latihan awal model asas V3 yang menjadi asas kepada R1. V3 dilatih menggunakan 2,048 GPU H800 selama kira-kira dua bulan. Tempoh itu bersamaan kira-kira 2.79 juta jam GPU. Dengan anggaran sewaan konservatif sekitar 2 dolar sejam GPU bagi perkakasan kelas ini, kos latihan awal sahaja mencecah hampir 5.58 juta dolar. Jika ditambah kira-kira 294,000 dolar untuk pembelajaran pengukuhan dan penjanaan data berkaitan, bil pengkomputeran untuk menghasilkan R1 dalam bentuk yang dilancarkan menghampiri 5.87 juta dolar.

Anggaran ini selaras dengan penjelasan dalam kertas kerja bahawa 294,000 dolar bagi R1 ialah kos tambahan di atas model asas. Ia juga seiring dengan analisis luar yang meletakkan skala keseluruhan pengkomputeran R1 dalam lingkungan model terbuka besar yang lain. Angka itu masih kelihatan rendah berbanding belanjawan yang dikhabarkan untuk sistem tertutup terbesar, tetapi jauh daripada tawaran murah yang dibayangkan oleh tajuk berita tunggal tentang kos kurang daripada 300,000 dolar.

Bagaimana pengiraan jam GPU berfungsi

Jam GPU ialah cara mudah untuk mengukur pengkomputeran: satu GPU yang berjalan selama satu jam bersamaan satu jam GPU. Jumlah jam bagi sesuatu latihan ialah hasil darab bilangan GPU dengan jumlah jam yang direkodkan. Kos ditentukan oleh harga pasaran bagi jam tersebut, sama ada melalui sewaan awan atau susut nilai dan operasi perkakasan milik sendiri. Pembangun yang menyewa lebih daripada 2,000 pemecut selama berbulan-bulan membayar mengikut jam. Pembangun yang membeli kluster sama perlu mengeluarkan modal terlebih dahulu, kemudian menanggung kos elektrik, penyejukan, ruang dan penyelenggaraan.

Membeli kluster pada skala ini jauh lebih mahal berbanding menyewanya untuk satu latihan. Penyediaan 2,048 GPU kelas H800, rangkaian dan pelayan akan menelan belanja jauh melebihi 51 juta dolar berdasarkan harga pasaran semasa, belum termasuk masa kejuruteraan, pelesenan data, tenaga kerja penilaian, storan dan banyak eksperimen gagal sebelum pelancaran berjaya. Angka 5.87 juta dolar lebih tepat dianggap sebagai kos latihan besar yang berjaya, bukan keseluruhan kos penyelidikan yang memungkinkan kejayaan itu.

Pembelajaran pengukuhan ialah langkah akhir, bukan keseluruhan kerja

Pembelajaran pengukuhan mengubah tingkah laku model terlatih dengan memberikan ganjaran bagi hasil yang dikehendaki. Dalam program R1, DeepSeek menggunakan teknik yang memberikan skor kepada jawapan dan mendorong model ke arah penyelesaian yang menghasilkan jawapan betul. Para penyelidik menyifatkan pendekatan ini sebagai pembelajaran pengukuhan tulen. Ia tidak memerlukan rantaian pemikiran yang ditulis manusia. Model meneroka dan menguji laluannya sendiri, menerima isyarat tentang ketepatan, lalu memperbaik strategi penaakulan dalamannya secara beransur-ansur.

Langkah akhir itu bernilai. Ia boleh meningkatkan prestasi dalam matematik, pengekodan dan tugasan saintifik, yang matlamatnya ialah mencapai hasil yang boleh disahkan. Kosnya juga jauh lebih rendah berbanding latihan awal. Usaha besar tetap terletak pada proses pembelajaran selama berbulan-bulan yang membekalkan model asas dengan pengetahuan bahasa dan keupayaan luas. Pembelajaran pengukuhan kemudian membentuk keupayaan tersebut untuk matlamat khusus seperti penaakulan langkah demi langkah dan penggunaan alat.

Cip, peraturan eksport dan perkakasan yang sebenarnya digunakan DeepSeek

DeepSeek menjalankan latihan dalam keadaan bekalan cip yang terhad. Amerika Syarikat menyekat eksport pemecut canggih ke China, sebab itu H800, versi GPU pusat data Nvidia yang diubah suai agar mematuhi peraturan eksport, muncul dalam bahan DeepSeek. Perbualan industri mencadangkan penyelidik di China menemui cara untuk mendapatkan komponen yang lebih pantas, manakala kenyataan syarikat diteliti baris demi baris bagi mencari petunjuk tentang sumber perkakasan. Namun, perkara yang lebih jelas bagi memahami kos ialah peringkat pembelajaran pengukuhan R1 menggunakan kluster 512 H800, sementara kerja persediaan terdahulu turut melibatkan GPU A100.

Dalam dokumen tambahan, pasukan itu mengakui perkara tersebut. Para penyelidik menjelaskan peranan A100 dalam fasa persediaan sebelum latihan utama R1 dijalankan menggunakan H800.

Penyelidik DeepSeek menulis: "Mengenai penyelidikan kami terhadap DeepSeek-R1, kami menggunakan GPU A100 untuk menyediakan eksperimen dengan model yang lebih kecil."

Butiran itu membantu menjelaskan bagaimana bajet akhir dan gabungan cip tersebut boleh sama-sama tepat. H800 diambil kira dalam pengiraan kos utama pembelajaran pengukuhan, manakala A100 digunakan dalam eksperimen terdahulu yang membentuk pendekatan tersebut.

Adakah kos DeepSeek jauh lebih rendah berbanding pesaing Barat

Bil pengkomputeran penuh untuk menghasilkan R1 lebih hampir kepada 6 juta dolar berbanding 300,000 dolar. Namun, angka itu masih sebahagian kecil daripada perbelanjaan sembilan angka yang dikhabarkan di sebalik sistem tertutup termaju. Kosnya juga dalam lingkungan yang sama dengan model terbuka besar seperti Llama 4 keluaran Meta dari segi bilangan pemecut dan tempoh latihan, walaupun program tersebut menggunakan lebih banyak token. Perbezaan ini menarik, tetapi bukan revolusi yang mengurangkan kos keseluruhan proses sebanyak satu tertib magnitud.

Antara sebab ramai pembaca masih menganggap DeepSeek peneraju dari segi kos ialah keupayaan pasukannya memaksimumkan penggunaan cip dalam keadaan terbatas. Syarikat itu memperluas reka bentuk campuran pakar yang hanya mengaktifkan sebahagian kecil parameter bagi setiap token. Ini menghasilkan kadar pemprosesan yang lebih tinggi bagi setiap jam GPU. Syarikat itu juga bergantung pada penaakulan yang lebih panjang ketika inferens, sekali gus mengalihkan sebahagian beban daripada latihan awal kepada penggunaan seterusnya.

Para penyelidik turut membahaskan sumber data dan pemindahan pengetahuan antara model. DeepSeek menggunakan penyulingan dalam beberapa bahagian ekosistemnya, iaitu apabila model yang berkeupayaan tinggi menjana jawapan untuk mengajar model yang lebih kecil atau lebih murah. Pasukan itu berkata model asas V3 belajar daripada data imbasan web yang mengandungi kandungan janaan AI, termasuk hasil daripada sistem lain. Kertas kerja tersebut menyifatkannya sebagai keadaan sampingan, bukannya penyalinan laluan penaakulan secara sengaja. Perbezaan teknikal ini penting kepada peguam dan penggubal dasar, serta kepada mereka yang menganggarkan kos dan mahu memahami sejauh mana pembangun boleh melangkah dengan token dan pengkomputeran yang lebih sedikit.

Pandangan pakar tentang kos dan akses

Ahli akademik menggesa orang ramai menilai angka DeepSeek dengan rasional. Mereka mengiktiraf kemahiran kejuruteraan yang sebenar, sambil mengingatkan bahawa perbandingan kos yang terlalu mudah boleh mengelirukan. Belanjawan latihan yang lebih rendah masih boleh memberi manfaat kepada pasaran jika ia membuka akses yang lebih murah, namun angka tajuk berita sering tidak mengambil kira kos tenaga kerja, eksperimen dan infrastruktur.

Umar Iqbal, profesor madya sains komputer dan kejuruteraan di Universiti Washington di St. Louis, berhujah bahawa pengurangan kos boleh meluaskan akses, sambil menimbulkan persoalan tentang pertukaran antara privasi dengan keselamatan dalam penggunaan AI berskala awan.

Iqbal berkata: "Untuk teknologi diterima secara meluas, teknologi itu perlu mampu milik," sambil menambah bahawa kos pembangunan yang lebih rendah boleh memungkinkan lebih banyak eksperimen berskala besar. Namun, beliau memberi amaran bahawa perkhidmatan AI berasaskan awan menimbulkan persoalan serius tentang kawalan data dan privasi.

Malah, penyokong pendekatan teknikal DeepSeek turut mengingatkan bahawa jumlah latihan yang dikongsi secara meluas itu bukan penanda aras yang lengkap. Mereka menekankan bahawa latihan berulang, kitaran penalaan dan kerja data tidak termasuk dalam satu pusingan latihan menyeluruh.

Data, penyulingan dan kandungan yang mungkin terdapat dalam set latihan

Penyulingan menggunakan jawapan daripada sistem yang lebih berkeupayaan untuk membimbing model sasaran. Pembangun boleh menjana berjuta-juta pasangan soal jawab berkualiti tinggi, jejak kod atau contoh rantaian pemikiran, kemudian memperhalus model supaya menghasilkan tingkah laku yang sama. Kaedah ini boleh meningkatkan mutu tanpa perlu mengulangi bahagian latihan awal yang paling mahal. Inilah antara sebab utama pasukan kecil boleh menghampiri atau menyamai keupayaan khusus makmal yang lebih besar dalam bidang seperti matematik dan pengaturcaraan.

DeepSeek berkata beberapa varian yang disuling dalam keluarga modelnya menggunakan sistem sumber terbuka seperti Llama keluaran Meta. Bagi V3, syarikat itu menerangkan bahawa data imbasan webnya yang luas merangkumi sejumlah besar jawapan janaan AI. Pendekatan itu membawa manfaat dan risiko. Ia boleh mempercepat pembelajaran corak lazim, tetapi pada masa sama berpotensi membawa masuk isu pelesenan dan mutu yang tidak diketahui. Kertas kerja Nature mendorong komuniti meminta penjelasan lebih lanjut tentang data yang digunakan dan waktunya, serta bahagian proses yang bergantung pada label sintetik.

Mengapa tajuk berita $294,000 tersebar dan sebabnya penting

Angka 294,000 dolar mudah disampaikan dan cukup dramatik untuk menggerakkan pasaran. Pada Januari, pelancaran awal DeepSeek sudah mencetuskan kebimbangan bahawa pesaing berkos rendah akan mengatasi peneraju AS. Pelabur menjual saham pengeluar cip dan rakan kongsi AI. Kertas kerja semakan rakan sebaya itu menghidupkan semula naratif tersebut dengan satu kenyataan ringkas yang tersebar lebih pantas daripada nota kakinya. Ramai pembaca dan sebilangan wartawan menganggap pembelajaran pengukuhan sebagai keseluruhan cerita.

Kertas kerja itu bukan sekadar mencetuskan keterujaan. Ia menetapkan penanda aras ketelusan dengan menerbitkan angka dan butiran kaedah dalam rekod saintifik awam. Penyemak meminta DeepSeek mengurangkan penggunaan bahasa yang memberi sifat manusia kepada AI serta memperjelas isu keselamatan, sumber data dan pengkomputeran. Perkara ini baik untuk sains dan industri. Ia membantu komuniti memahami teknik yang memberikan nilai paling besar dan kos yang masih sukar dikurangkan.

Implikasi terhadap kos dan persaingan AI

Ekonomi pembangunan model sedang berubah. Selepas bertahun-tahun meningkatkan skala, banyak pasukan kini lebih menumpukan pada penalaan halus dan memberi model lebih banyak masa untuk membuat penaakulan, berbanding hanya membesarkan saiz set data dan bilangan parameter. Ini mengalihkan sebahagian beban kos ke peringkat penggunaan, apabila model mengambil masa lebih lama untuk berfikir bagi setiap pertanyaan dan menggunakan lebih banyak pengkomputeran bagi setiap jawapan. Akses untuk pengguna akhir masih boleh menjadi lebih murah jika peningkatan kecekapan mengatasi kos masa penaakulan tambahan.

Reka bentuk campuran pakar DeepSeek, penggunaan pembelajaran pengukuhan untuk penaakulan dan penyulingan terpilih merupakan sebahagian daripada peralihan industri yang lebih luas ke arah pembangunan modular. Model belajar daripada satu sama lain, pasukan kecil membina produk berasaskan model asas yang lebih besar, dan pemberian akses kepada pemberat model memberi syarikat baharu kelebihan awal. Satu kajian dasar tentang trend ini di Eropah mendapati perubahan tersebut boleh membantu syarikat kecil bersaing, tetapi turut menyukarkan pemulihan kos tetap latihan asas. Persaingan harga mungkin meningkat, sementara pembangun mencari cara mampan untuk menggabungkan AI dengan produk dan perkhidmatan.

Sesetengah penyelidik mengingatkan bahawa angka latihan yang diumumkan kepada umum sering meremehkan kos untuk menghasilkan sistem yang benar-benar mantap. Mereka menekankan perbezaan antara kos satu latihan akhir yang berjaya dengan keseluruhan belanjawan yang merangkumi kerja data, percubaan gagal, penilaian keselamatan dan kerja kejuruteraan selama berbulan-bulan.

Martin Vechev, pengarah institut INSAIT yang berpangkalan di Switzerland, memuji pencapaian teknikal itu sambil memberi amaran supaya angka bagi satu latihan tidak dianggap sebagai jumlah kos keseluruhan.

Vechev berkata: "Angka 5 hingga 6 juta dolar itu mengelirukan kerana ia hanya mengambil kira satu latihan; pembangunan model sebegini memerlukan beberapa latihan dan eksperimen, menjadikan kos sebenar jauh lebih tinggi."

Pandangan itu selaras dengan bukti berkaitan R1. Penjimatan besar projek itu datang daripada pilihan seni bina yang bijak dan kaedah pembelajaran pengukuhan yang berkesan, bukannya dengan mengabaikan bahagian latihan awal yang mahal. Hasilnya menunjukkan laluan yang boleh dipercayai untuk mencapai prestasi tinggi dengan pengkomputeran yang lebih rendah berbanding sesetengah pesaing, tetapi bukan kaedah yang menjadikan latihan model termaju tugas bernilai kurang daripada 300,000 dolar.

Perkara Utama

• Angka 294,000 dolar bagi DeepSeek R1 merangkumi pembelajaran pengukuhan menggunakan 512 GPU H800 dan penjanaan data berkaitan, bukannya latihan model sepenuhnya.
• R1 bergantung pada model asas V3, yang dilatih menggunakan 2,048 GPU H800 selama kira-kira dua bulan, atau sekitar 2.79 juta jam GPU.
• Anggaran sewaan pengkomputeran meletakkan kos latihan awal V3 hampir 5.58 juta dolar, dengan jumlah untuk menghasilkan R1 sekitar 5.87 juta dolar.
• Membeli perkakasan setara jauh lebih mahal berbanding menyewanya, dengan harga kluster kelas 2,000 GPU melebihi 51 juta dolar sebelum kos operasi.
• DeepSeek menggunakan GPU A100 untuk kerja persediaan, kemudian H800 bagi latihan utama pembelajaran pengukuhan R1.
• Skala pengkomputeran R1 lebih setanding dengan model terbuka besar yang lain daripada gambaran tajuk berita awal, walaupun kelihatan rendah berbanding belanjawan model tertutup sembilan angka yang dikhabarkan.
• Pembelajaran pengukuhan mempertajam penaakulan dengan kos yang agak rendah, manakala usaha besar tetap terletak pada latihan awal dan kerja data.
• Pakar mengingatkan bahawa angka latihan yang diiklankan jarang merangkumi penyelidikan dan pembangunan, penyediaan data serta pelbagai latihan gagal yang meningkatkan kos projek sebenar.