Penyelidik Kimi Berusia 17 Tahun, Chen Guangyu, Tinggalkan Moonshot ketika Spekulasi Silicon Valley Memuncak

Penyelidik remaja berundur selepas membantu mereka bentuk semula Kimi

Chen Guangyu, penyelidik berusia 17 tahun yang membantu membangunkan cara baharu untuk model kecerdasan buatan menyampaikan maklumat antara lapisannya, mengumumkan pada 15 Oktober 2026 bahawa beliau telah meninggalkan Moonshot AI, syarikat China di sebalik Kimi. Beliau menyertai pasukan penyelidikannya pada November 2025, ketika berusia 16 tahun.

Dikenali di peringkat antarabangsa sebagai Nathan Chen, remaja dari Shenzhen itu meninggalkan sumbangan penyelidikan yang nyata: beliau berkongsi kredit sebagai pengarang pertama Attention Residuals, sebuah makalah yang diterbitkan pada 16 Mac 2026 bersama penyelidik Moonshot, Yu Zhang dan Jianlin Su. Menurut laporan mengenai pelancaran model itu pada Julai, teknik tersebut kemudiannya menjadi sebahagian daripada Kimi K3.

Eksperimen terbitan Moonshot memberikan gambaran yang lebih tepat tentang hasil kerjanya berbanding tumpuan terhadap usianya. Dalam ujian pada model Kimi Linear dengan 48 bilion parameter, para penyelidik merekodkan peningkatan dalam setiap tugasan yang dinilai. Kaedah Block Attention Residuals mereka juga menyamai kerugian latihan model konvensional yang menggunakan kuasa pengkomputeran 1.25 kali lebih besar.

Pengunduran Chen mengundang jemputan terbuka daripada Anthropic, spekulasi mengenai sebuah syarikat pemula yang diasaskan bekas penyelidik Google, serta percubaan mengaitkannya dengan seorang remaja yang tidak dinamakan dan dilaporkan menerima lima tawaran kerja bernilai kira-kira AS$1 juta setiap satu atau lebih.

Namun, Chen secara terbuka menolak dakwaan bahawa beliau akan menyertai Anthropic. Majikan seterusnya, pakej pampasan dan sama ada beliau akan kembali ke universiti masih belum disahkan.

Dalam ucapan perpisahannya, Chen menceritakan pengalamannya di Moonshot dan berterima kasih kepada mereka yang mengambilnya bekerja. Pelatih penyelidikan pembelajaran mesin yang bakal berundur itu berkata:

Tahun lalu ialah tahun terbaik dalam hidup saya.

Beliau mengakhiri mesejnya dengan menyatakan hasrat untuk terus meneroka, tanpa menyebut destinasi tertentu.

Sumbangan Chen kepada penyelidikan

Nama Chen tertera bersama Zhang dan Su di bawah pengiktirafan sumbangan setara dalam laporan Attention Residuals pasukan Kimi. Pengiktirafan itu memberikan kredit kepada ketiga-tiganya atas sumbangan utama dalam usaha pasukan yang jauh lebih besar.

Su, yang dikenali menerusi kerjanya pada pembenaman kedudukan berputar, atau RoPE, menjalankan eksperimen awal. RoPE membantu model bahasa menjejaki kedudukan perkataan atau cebisan maklumat lain dalam sesuatu jujukan. Zhang ialah pengarang pertama penyelidikan seni bina Kimi Linear.

Su memuji Zhang dan Chen kerana membantu mengubah idea awal Attention Residuals menjadi sesuatu yang praktikal untuk model besar. Mereka berdua mencadangkan Block AttnRes, versi yang direka untuk mengekalkan manfaat kaedah itu sambil mengurangkan keperluan memori dan komunikasi apabila digunakan pada skala besar.

Chen turut mengusahakan pemecutan kernel pengkomputeran untuk Kimi Delta Attention, atau KDA. Kernel ialah program kecil yang melaksanakan pengiraan tertentu pada unit pemprosesan grafik. Penambahbaikan terhadapnya boleh membolehkan perkakasan yang sama menyiapkan tugasan dengan lebih pantas.

Oleh itu, kerjanya merangkumi dua bidang yang saling berkait: menentukan cara model patut dibina dan memastikan pengiraan di sebalik reka bentuk itu berjalan dengan cekap. Bagi makmal yang melatih model besar, kedua-duanya mempengaruhi jumlah penyelidikan yang dapat diselesaikan dengan bajet pengkomputeran yang tersedia.

Bagaimana Attention Residuals mengubah model

Model bahasa memproses maklumat melalui banyak lapisan berturutan. Setiap lapisan mengubah maklumat yang diterimanya, lalu membina perwakilan yang digunakan oleh lapisan seterusnya untuk meramalkan jawapan.

Sambungan residual standard memastikan maklumat terdahulu terus mengalir dalam proses itu dengan menjumlahkan output lapisan. Repositori penyelidikan rasmi Moonshot menerangkan masalah pendekatan ini: apabila model menjadi lebih dalam, pengumpulan berulang boleh mencairkan sumbangan individu dan menyebabkan saiz isyarat dalaman bertambah.

Attention Residuals menggantikan pengumpulan tetap itu dengan proses pemilihan terlatih. Lapisan yang lebih lewat boleh memberikan pemberat berbeza kepada maklumat yang dihasilkan lebih awal, bergantung pada input semasa. Bayangkan seorang pembaca merujuk nota paling berguna daripada bab terdahulu, bukannya membawa setiap nota ke hadapan dengan kepentingan yang sama.

Melaksanakan pemilihan itu secara berasingan bagi setiap lapisan terdahulu turut menimbulkan kos tersendiri. Block AttnRes mengumpulkan lapisan, mengekalkan operasi tambah biasa dalam setiap kumpulan dan memilih antara perwakilan kumpulan yang terhasil. Menurut repositori itu, kira-kira lapan kumpulan dapat memperoleh semula sebahagian besar peningkatan daripada kaedah penuh.

Konfigurasi Kimi Linear terbesar yang dihuraikan dalam makalah itu menggunakan 54 lapisan, dikumpulkan enam demi enam. Sembilan kumpulan tersebut, bersama perwakilan token awal, menyediakan 10 sumber maklumat untuk dipilih. Inilah langkah kejuruteraan praktikal yang membantu membawa idea itu daripada eksperimen ke arah latihan model besar.

Hasil yang ditunjukkan dalam penerbitan

Makalah Mac itu menguji Attention Residuals dalam model Kimi Linear dengan jumlah 48 bilion parameter, yang mana 3 bilion daripadanya diaktifkan semasa pemprosesan. Parameter ialah tetapan berangka terlatih dalam sesuatu model. Mengaktifkan hanya sebahagian daripadanya membolehkan model memanfaatkan kumpulan pengetahuan terlatih yang besar sambil mengehadkan pengiraan yang diperlukan bagi setiap langkah.

Latihan menggunakan 1.4 trilion token, iaitu cebisan teks atau data lain yang diproses oleh model. Para penyelidik mengekalkan komponen seni bina utama model yang lain tanpa perubahan, sekali gus membolehkan mereka membandingkan penambahan Attention Residuals dengan reka bentuk asas.

Bagi GPQA-Diamond, ujian soalan sains yang sukar, markah meningkat daripada 36.9 kepada 44.4, iaitu kenaikan 7.5 mata. HumanEval, yang menguji penjanaan kod, meningkat daripada 59.1 kepada 62.2. MMLU, penanda aras pengetahuan umum, naik daripada 73.5 kepada 74.6.

Perbandingan pengkomputeran juga berguna. Menyamai model asas yang menggunakan pengkomputeran 1.25 kali lebih banyak bermakna mencapai kerugian latihan yang sama seperti dilaporkan dengan hanya empat perlima bajet model asas itu, atau 20% kurang pengkomputeran. Kerugian latihan mengukur sejauh mana ramalan model berbeza daripada jawapan sasaran semasa latihan.

Moonshot secara berasingan menyatakan bahawa teknologi itu menyumbang kepada peningkatan kira-kira 25% dalam kecekapan latihan K3 dengan kos tambahan kurang daripada 2%. Eksperimen Mac dan dakwaan kemudian mengenai K3 melibatkan tetapan model yang berbeza; angka penanda aras terperinci yang diterbitkan di atas adalah daripada Kimi Linear.

Daripada hackathon sekolah kepada pasukan penyelidikan

Chen dilahirkan di Shenzhen pada 2009. Sebelum menyertai Moonshot, beliau menganjurkan komuniti sumber terbuka remaja, membangunkan bot perisian dan meneroka minat daripada keselamatan AI hingga fizik.

Ketika membuat persiapan untuk permohonan universiti, beliau menghentikan sementara beberapa aktiviti yang tidak diminatinya lalu mula membaca subjek yang menarik perhatiannya. Laluan seterusnya ke bidang penyelidikan menggabungkan pembelajaran kendiri, penulisan teknikal terbuka dan hubungan dengan para penyelidik yang sedang bekerja.

Pada Februari 2025, beliau menyertai hackathon Moonshot AI untuk pelajar sekolah menengah bersama ThirdArm, projek yang membayangkan sebuah lengan robot tambahan untuk membantu. Di situ, beliau bertemu Dong Kehan, anggota pasukan pengasas MiraclePlus, yang menggalakkannya menumpukan perhatian pada teknologi termaju.

Satu hantaran teknikal mengenai DeltaNet kemudian mendapat maklum balas daripada penyelidik Songlin Yang. Perbincangan itu sampai kepada Ben Keigwin dari Tilde Research, sebuah syarikat pemula di Palo Alto, California, lalu membawa kepada perbualan mengenai kerja syarikat itu. Pada Julai 2025, Chen berusia 16 tahun ketika berangkat sendirian ke sana untuk menjalani latihan selama tujuh minggu.

Kaedah pembelajaran Chen termasuk menghabiskan berjam-jam membincangkan makalah dengan Gemini, menghantar tangkap layar petikan yang sukar dan mengajukan soalan susulan. Beliau turut membaca kod, blog dan laman web penyelidik, serta mendapatkan nasihat daripada penyelidik DeepSeek, Yuan Jingyang, tentang pilihan penting.

Pengalamannya mencerminkan lebih daripada sekadar menggunakan chatbot sebagai tutor. Penulisan terbuka membolehkan orang lain melihat pemikiran teknikalnya, penyelidik memberikan respons, dan latihan industri memberinya peluang untuk mengubah pemikiran itu menjadi kerja kolaboratif.

Tarikh di sebalik kemajuan pesat

Dalam tempoh kurang dua tahun, Chen beralih daripada projek sekolah kepada latihan industri antarabangsa, kemudian kepada penyelidikan model yang diterbitkan. Beliau berundur selepas Attention Residuals digunakan dalam pelancaran utama Kimi.

• Februari 2025: Chen menyertai hackathon AI Moonshot untuk pelajar sekolah menengah.
• Julai 2025: Beliau memulakan latihan industri selama tujuh minggu di Tilde Research di Palo Alto.
• November 2025: Beliau menyertai pasukan Kimi Moonshot sebagai pelatih penyelidikan pembelajaran mesin pada usia 16 tahun.
• 16 Mac 2026: Laporan teknikal Attention Residuals diterbitkan dengan Chen, Zhang dan Su menerima kredit yang setara.
• Jun 2026: Chen menamatkan persekolahan menengah.
• Julai 2026: Kimi K3 dilancarkan dengan Attention Residuals sebagai salah satu teknologi seni binanya.
• 15 Oktober 2026: Chen mengumumkan bahawa beliau telah meninggalkan Moonshot.
• 16 Oktober 2026: Beliau menolak spekulasi bahawa beliau akan menyertai Anthropic.
• 20 Oktober 2026: Sebuah akaun tanpa nama mendakwa beliau akan menyertai Discovery Loop.

Rekod pendidikan awamnya turut menyenaraikan kehadiran di Universiti Carnegie Mellon pada Ogos dan September 2026. Rekod ringkas itu kini menjadi sebahagian daripada spekulasi sama ada langkah seterusnya melibatkan pekerjaan atau pengajian lanjutan.

Jemputan Anthropic dan kisah tawaran berjuta-juta dolar

Sholto Douglas, yang mengetuai pembelajaran pengukuhan berskala besar di Anthropic, memberikan komen pada hantaran perpisahan Chen. Beliau bertanya sama ada Chen masih merancang untuk menghadiri Universiti Carnegie Mellon dan mengundangnya untuk bekerjasama di San Francisco.

Chen membalas bahawa beliau sedang menuju ke Bay Area. Apabila pertukaran itu mencetuskan andaian bahawa beliau telah menyertai Anthropic, beliau menafikannya secara ringkas:

tidak :)

Perbincangan mengenai gaji bermula secara berasingan. Pelabur Menlo Ventures, Deedy Das, menceritakan pertemuannya dengan seorang remaja berusia 17 tahun yang belajar AI secara kendiri dengan bantuan model bahasa, menjalani latihan industri selama kira-kira setahun di sebuah syarikat AI terkemuka dan meninggalkan program prasiswazah bertaraf tinggi di Amerika Syarikat selepas dua minggu.

Menurut Das, remaja itu menerima lima tawaran daripada makmal AI terkemuka di San Francisco, setiap satunya bernilai kira-kira AS$1 juta atau lebih. Das turut menyampaikan bahawa remaja itu lebih mengutamakan pembelajaran berbanding wang.

Pengguna media sosial mengaitkan gambaran itu dengan Chen berdasarkan usia dan sejarah penyelidikannya. Das tidak menamakan remaja tersebut, dan Chen tidak mengesahkan bahawa tawaran itu ditujukan kepadanya. Oleh itu, perbincangan tersebut berkisar pada tawaran yang dilaporkan diterima seseorang yang tidak dinamakan, bukannya perjanjian pekerjaan Chen yang didedahkan kepada umum.

Jemputan terbuka daripada Douglas merupakan petunjuk minat yang lebih nyata: seorang penyelidik kanan secara terbuka menggalakkan Chen menyertainya. Penafian selepas itu juga memberikan jawapan langsung kepada spekulasi mengenai Anthropic.

Mengapa Discovery Loop disebut-sebut

Discovery Loop menjadi tumpuan seterusnya selepas Arfur Grok, akaun tanpa nama yang menjejaki pergerakan kakitangan AI, mendakwa pada 20 Oktober bahawa Chen telah menyertai syarikat itu. Chen belum mengesahkan pelantikan tersebut, dan syarikat pemula itu enggan mengulas tentang hal ehwal kakitangan.

Syarikat itu diasaskan pada Ogos 2026 oleh bekas penyelidik Google, Jeff Dean, Sanjay Ghemawat, Quoc Le dan Oriol Vinyals. Matlamat yang dinyatakannya ialah menggunakan AI untuk mengautomatikkan penyelidikan saintifik dan pembelajaran mesin, termasuk mencadangkan idea, menjalankan eksperimen dan menganalisis hasil.

Bagi penyelidik yang berminat dengan reka bentuk model yang cekap, misi itu melibatkan masalah teknikal yang sudah biasa. Sistem yang menjalankan banyak eksperimen penyelidikan perlu menggunakan sumber pengkomputeran dengan cekap, manakala penambahbaikan pada algoritma atau kernel boleh membolehkan lebih banyak eksperimen dijalankan dengan bajet tetap.

Pembiayaan Discovery Loop turut menarik perhatian. Syarikat itu dilaporkan mendapatkan pembiayaan pada penilaian kira-kira AS$50 bilion pada September, berbanding rundingan sekitar AS$10 bilion beberapa minggu sebelumnya, iaitu peningkatan lima kali ganda. Angka tersebut merujuk kepada penilaian syarikat yang dicadangkan dalam perbincangan pengumpulan dana.

Chen juga sudah mempunyai hubungan dengan Bay Area menerusi Tilde Research. Latihan industri terdahulunya di sana membantu menjelaskan bahawa perjalanan ke California mungkin melibatkan beberapa kenalan profesional, bukannya satu destinasi yang jelas sahaja.

Kesan pengundurannya terhadap Moonshot

Penyelidik Moonshot, Du Yulun, yang menyokong pengambilan Chen ketika berusia 16 tahun, berkata mereka berdua telah mengadakan beberapa perbualan panjang tentang keputusannya untuk berundur. Du meluahkan rasa sedih sambil menyokong hasrat Chen untuk meneroka minat baharu pada usianya itu.

Sumbangan Chen kekal dalam rekod penyelidikan pasukan. Kimi K3, yang dilancarkan pada Julai dengan 2.8 trilion parameter, menggabungkan Attention Residuals dengan Kimi Delta Attention. Kedua-duanya menangani bahagian pemprosesan maklumat yang berbeza: AttnRes mengubah cara maklumat bergerak melalui kedalaman model, manakala KDA membantu memproses jujukan dengan cekap.

Moonshot mengaitkan peningkatan kira-kira 2.5 kali ganda dalam kecekapan penskalaan K3 berbanding K2 dengan gabungan perubahan seni bina, kaedah latihan dan pemilihan data. Ini meletakkan hasil kerja Chen dalam usaha syarikat yang lebih luas, melibatkan ramai penyelidik dan beberapa perubahan teknikal.

Kesan praktikalnya melangkaui kerjaya seorang pekerja yang luar biasa muda. Model yang belajar dengan lebih cekap dapat memanfaatkan pemproses mahal dan bajet penyelidikan dengan lebih baik. Penyelidik yang mampu menghubungkan reka bentuk matematik dengan pelaksanaan pantas dapat menyumbang secara langsung kepada matlamat itu.

Chen meninggalkan Moonshot dengan hasil kerja yang diterbitkan, pengalaman dalam dua persekitaran penyelidikan dan perhatian terbuka daripada sebuah lagi makmal terkemuka. Kisah yang telah disahkan sudah cukup bermakna: seorang remaja membantu menjadikan idea seni bina sebagai kaedah yang boleh digunakan, kemudian memilih untuk terus meneroka sebelum mengumumkan jawatan seterusnya.

Perkara Utama

• Chen Guangyu, yang juga dikenali sebagai Nathan Chen, mengumumkan pengundurannya daripada Moonshot AI pada 15 Oktober 2026 ketika berusia 17 tahun.
• Beliau berkongsi kredit sebagai pengarang pertama bersama Yu Zhang dan Jianlin Su untuk Attention Residuals, yang diterbitkan pada 16 Mac.
• Eksperimen Moonshot menunjukkan peningkatan dalam semua tugasan yang dinilai dan menyamai model asas yang menggunakan pengkomputeran 1.25 kali lebih banyak.
• Chen membantu membangunkan Block AttnRes dan mengusahakan pemecutan pengiraan Kimi Delta Attention.
• Beliau berkata sedang menuju ke Bay Area dan menolak spekulasi bahawa beliau akan menyertai Anthropic.
• Dakwaan bahawa beliau akan menyertai Discovery Loop dan spekulasi yang mengaitkannya dengan lima tawaran bernilai kira-kira AS$1 juta setiap satu masih belum disahkan.