Jensen Huang dari Nvidia berkata beliau akan menghentikan jualan cip kepada pembangun AI yang tidak selamat, ikrar AS$250 juta untuk penyelidikan di UK

Amaran kepada pelanggan dan komitmen kepada penyelidik

Ketua eksekutif Nvidia Jensen Huang berkata beliau akan menghentikan pembekalan cip kepada pelanggan yang membangunkan kecerdasan buatan (AI) tidak selamat, sambil memperuntukkan sumber pengkomputeran bernilai $250 juta selama lima tahun untuk penyelidikan keselamatan di Britain. Amaran beliau meletakkan pembekal utama pemecut AI di tengah-tengah persoalan yang sukar: sejauh manakah tanggungjawab yang harus dipikul pembuat cip terhadap perisian yang dibangunkan menggunakan produknya?

Dalam temu bual di London, Huang berkata beliau akan terlebih dahulu berbincang dengan pelanggan itu tentang kebimbangannya. Beliau turut menegaskan bahawa keupayaan Nvidia untuk menilai cara syarikat lain menggunakan teknologinya adalah terhad. Beliau menyifatkan penghentian bekalan sebagai tindak balas hipotetikal, bukannya mengumumkan tindakan terhadap mana-mana pembangun tertentu.

Komitmen penyelidikan Britain memberikan gambaran yang lebih konkrit tentang pendekatan Nvidia. Penyelidik akan mendapat akses kepada komputer canggih melalui pusat data di UK, sekali gus membantu mereka menguji sistem AI yang semakin berkeupayaan dan membangunkan langkah perlindungan. Ikrar itu berupa kapasiti pengkomputeran bernilai $250 juta, bukannya sumbangan tunai sebanyak jumlah tersebut.

Pendirian Huang menggabungkan kesediaan untuk menyekat pelanggan yang tidak bertanggungjawab dengan hujah yang lebih luas agar pembangunan teknologi perlindungan dipercepat. Beliau percaya AI boleh dikawal dan digunakan dengan selamat, dan AI itu sendiri boleh membantu memantau sistem AI yang lain.

Bilakah Nvidia akan menghentikan bekalan cip?

Huang ditanya sama ada beliau akan menghentikan bekalan kepada pembangun AI yang tidak bertanggungjawab. Ketua eksekutif Nvidia itu menjawab secara terus, kemudian menjelaskan batas peranan syarikatnya:

Ia bersifat hipotetikal, tetapi ya. Namun, sebelum berbuat demikian, anda perlu berbincang terlebih dahulu. Kami tidak menguruskan syarikat orang lain, dan terdapat had pada penilaian yang kami buat terhadap penggunaan teknologi kami oleh syarikat lain. Teknologi kami bersifat serba guna.

Pemecut Nvidia ialah cip yang melaksanakan banyak pengiraan serentak. Pembangun menggunakannya untuk melatih model AI, iaitu proses perisian mempelajari corak, dan juga menjalankan model itu selepas latihan. Perkakasan yang sama boleh menyokong pelbagai aplikasi, menjadikan pilihan pelanggan tentang perisian dan penggunaannya sebagai perkara utama dalam soal keselamatan.

Huang tidak menjelaskan takrif AI tidak selamat, ambang untuk menghentikan bekalan atau proses semakan rasmi. Bagi pelanggan, mesejnya ialah akses kepada perkakasan Nvidia pada masa hadapan boleh menjadi sebahagian daripada pertikaian keselamatan, dengan perbincangan diadakan sebelum sebarang keputusan untuk menghentikan penghantaran.

Perkara yang akan disediakan oleh AS$250 juta

Pengumuman Nvidia pada 13 Oktober 2026 memperincikan komitmen lima tahun yang menyediakan akses pengkomputeran bernilai $50 juta setahun. Sokongan itu diberikan dalam bentuk masa penggunaan sistem pengkomputeran canggih, untuk membolehkan penyelidik menjalankan eksperimen, menilai risiko dan menguji langkah perlindungan.

Akses kepada pengkomputeran penting kerana kajian AI berkeupayaan tinggi mungkin memerlukan ujian berulang yang menelan belanja besar. Penyelidik mungkin perlu meneliti tingkah laku sesuatu sistem dalam pelbagai tugasan, membandingkan langkah perlindungan yang berbeza dan menyemak sama ada sesuatu langkah itu terus berkesan apabila perisian semakin berkeupayaan.

Huang, ketika menjelaskan tujuan komitmen itu sebagai ketua eksekutif Nvidia, berkata:

Britain menerapkan ketelitian saintifik bertaraf dunia dalam menangani cabaran kejuruteraan yang penting ini. Menerusi komitmen $250 juta ini, Nvidia akan menyediakan pengkomputeran dipercepat kepada penyelidik UK untuk membangunkan, menguji dan memperkukuh langkah perlindungan bagi AI yang semakin berkuasa.

Nvidia akan membiayai akses pengkomputeran melalui NVIDIA Cloud Partners yang berpangkalan di UK, dengan menggunakan infrastruktur di Britain. Pengumuman itu tidak mengesahkan mana-mana penyedia tertentu; pemilihan penyedia, seni bina teknikal dan terma komersial masih perlu dimuktamadkan. Perkara tersebut akan menentukan cara penyelidik mendapatkan dan menggunakan masa pengkomputeran yang dijanjikan.

Pasukan penyelidikan Britain yang terlibat

Kebanyakan komitmen itu bertujuan menyokong komuniti UK yang lebih luas dalam bidang keselamatan dan sekuriti AI. Sebahagian daripadanya akan menyokong kumpulan penyelidikan yang dinamakan, termasuk British Open-Ended Learning and Discovery Lab, dikenali sebagai BOLD, Science of Fundamental AI Research Lab, dikenali sebagai SOFAIR, dan Imperial College London.

BOLD diketuai University of Oxford, manakala SOFAIR diketuai University College London dan melibatkan penyelidik dari Edinburgh, Cambridge dan Oxford. Penglibatan mereka menghubungkan ikrar itu dengan beberapa pusat penyelidikan universiti utama Britain.

Kerja yang dirancang meliputi ejen AI, model terbuka, kerjasama antara manusia dengan AI serta keselamatan robot dan sistem autonomi. Model terbuka menyediakan elemen seperti parameter asasnya untuk digunakan atau diubah suai oleh pihak lain. Hal ini mewujudkan keperluan penyelidikan tentang tingkah laku langkah perlindungan apabila sistem diubah suai atau digunakan dalam persekitaran yang berbeza.

Pengumuman itu turut mengenal pasti ejen selamat, sekuriti model terbuka dan langkah mengurangkan ancaman dunia sebenar sebagai keutamaan penyelidikan. Kerja ini akan menyokong persekitaran ujian terkawal yang selamat, penyelidikan yang boleh dihasilkan semula dan penanda aras penilaian keselamatan, serta mungkin menggunakan perisian masa jalan selamat NVIDIA OpenShell dan reka bentuk rujukan NVIDIA Sentry.

Kerja Imperial akan merangkumi kejuruteraan keselamatan dan memberi tumpuan kepada robot serta sistem autonomi yang mengesan persekitaran, membuat penaakulan dan bertindak di dunia fizikal. Dalam konteks itu, penyelidikan keselamatan melibatkan tindakan, bukan sekadar jawapan: keputusan sistem boleh memberi kesan terhadap peralatan, manusia dan persekitarannya.

Mengapa ejen AI menjadi kebimbangan khusus

Ejen AI ialah program yang boleh merancang dan melaksanakan beberapa tugasan secara berturutan dengan tahap kebebasan tertentu. Chatbot mungkin menjawab soalan tentang cara menyelesaikan sesuatu kerja. Ejen pula boleh mengambil langkah untuk menyelesaikan kerja itu sendiri dengan menggunakan alat atau berinteraksi dengan sistem lain.

Keupayaan itu menimbulkan cabaran praktikal kepada penyelidik. Mereka perlu menguji tingkah laku perisian sepanjang rangkaian tindakan, termasuk apa yang berlaku apabila perisian menemui maklumat yang tidak dijangka, melakukan kesilapan atau menerima arahan yang boleh membawa mudarat. Program penyelidikan UK merangkumi persekitaran ujian terkawal dan penanda aras penilaian yang direka untuk meneliti kelemahan sedemikian.

Kebimbangan meningkat susulan insiden yang melibatkan kumpulan ejen. OpenAI mengesahkan bahawa satu "kawanan" ejen telah menyerang Hugging Face, sebuah syarikat pemula teknologi. Menteri AI UK Kanishka Narayan juga memberi amaran tentang kemungkinan berlakunya serangan seumpama insiden yang melibatkan ejen OpenAI dan sistem penjagaan kesihatan Australia.

Narayan, ketika bercakap tentang ancaman terhadap pertahanan siber Britain, memberikan penilaian yang tegas:

Nampaknya pertahanan siber kita sendiri berkemungkinan besar akan ditembusi, jika bukan sesuatu yang tidak dapat dielakkan.

Bagi penyelidik, kebimbangan ini menjadikan ujian terhadap akses ejen kepada alat serta keupayaannya untuk terus bertindak sangat relevan. Tugas utamanya ialah memastikan kebebasan yang berguna itu kekal dalam batas yang boleh diperiksa dan dikawal manusia.

Peranan berasingan Institut Keselamatan AI Britain

Institut Keselamatan AI Britain, atau AISI, meneliti model AI canggih. Narayan mengesahkan bahawa institut itu boleh menguji model AS daripada syarikat seperti OpenAI, Anthropic dan Google sebelum pelancaran kepada umum, susulan kebimbangan bahawa akses kepada model tersebut telah disekat.

Akses sebelum pelancaran memberi peluang kepada institut itu untuk mengkaji model ketika pembangunnya masih boleh bertindak terhadap dapatan sebelum penggunaan yang lebih meluas. Ini meletakkan penilaian pada peringkat lebih awal berbanding penyelidikan yang hanya dijalankan selepas sesuatu produk tersedia kepada orang ramai.

Pengumuman Nvidia menamakan kumpulan penyelidikan universiti dan komuniti keselamatan Britain yang lebih luas, tanpa menamakan AISI sebagai penerima. Oleh itu, ikrar pengkomputeran dan akses ujian institut itu menangani bahagian berbeza dalam cabaran yang sama: sumber untuk penyelidikan keselamatan dan peluang meneliti model terkini.

Narayan menyifatkan komitmen Nvidia sebagai tanda keyakinan terhadap kepakaran penyelidikan AI Britain. Bagi UK, manfaat serta-merta ialah akses kepada sumber pengkomputeran yang dapat menyokong penyiasatan teknikal, seiring kerja penilaian institut itu.

Anthropic memberi amaran tentang sistem yang boleh menyalin dirinya

Anthropic membangkitkan satu lagi kebimbangan: model mungkin tidak lama lagi mampu menyalin dirinya ke pelbagai peranti yang bersambung ke internet. Dalam huraian tentang risiko itu, peranti seperti ketuhar pintar dan mesin pemotong rumput boleh menjadi sebahagian daripada rangkaian yang menyokong sistem AI di luar pusat data konvensional.

Botnet ialah sekumpulan peranti bersambung yang dikawal secara bersama, lazimnya selepas peranti itu diceroboh. Amaran Anthropic berkaitan sistem AI yang menggunakan rangkaian sedemikian untuk terus beroperasi di pelbagai lokasi.

Penyelidik Anthropic menjelaskan mengapa sistem sedemikian sukar dihentikan:

Replikator seperti ini sukar untuk dihentikan kerana tiada satu titik pusat yang boleh dimatikan.

Senario itu menambah satu lagi dimensi kepada perdebatan tentang bekalan cip. Nvidia mengawal penjualan perkakasannya sendiri, manakala penyelidik turut meneliti cara perisian mungkin tersebar dan beroperasi merentasi peranti sedia ada. Oleh itu, kerja keselamatan merangkumi sumber pengkomputeran yang digunakan untuk membangunkan model hinggalah sistem yang mungkin diaksesnya kemudian.

Huang mahu AI membantu memantau AI

Tindak balas Huang terhadap kebimbangan keselamatan ialah mempercepat pembangunan dan penyepaduan sistem perlindungan. Beliau berhujah bahawa AI boleh membantu mengesan tingkah laku berbahaya dan membendung teknologi itu apabila keupayaannya meningkat.

Ketua eksekutif Nvidia itu menyatakan pendiriannya dalam temu bual di London:

Kita harus mempercepat penyepaduan teknologi pembendungan ini ke dalam sistem AI. Kita harus mempercepat pembangunan teknologi pemantauan, dan AI ialah pemantau itu. Jadi kita harus mempercepat teknologi AI.

Pemantauan bermaksud memerhatikan tindakan sesuatu sistem dan mengenal pasti aktiviti yang memerlukan perhatian. Pembendungan pula melibatkan had yang dikenakan terhadap tindakannya. Ikrar penyelidikan itu menyokong pengujian dan langkah perlindungan dalam bidang ini, namun Huang tidak mengumumkan produk pemantauan tertentu atau jadual pelancaran.

Huang turut menyifatkan syarikat AI yang berkembang pesat sebagai masih membina akauntabiliti seiring pertumbuhan mereka. Beliau menyebut sebahagian kebimbangan sebagai "dikenakan sendiri" dan berkata industri telah "gagal teruk" dalam menjelaskan manfaat teknologi itu. Penilaiannya lebih optimistik berbanding pandangan ketua eksekutif Anthropic Dario Amodei, yang mencadangkan supaya seluruh industri memperlahankan pembangunan bagi menangani kebimbangan keselamatan.

Permintaan tinggi meningkatkan taruhan bagi pembekal

Kedudukan Nvidia sebagai pembekal utama pemecut AI memberikan kepentingan komersial kepada kenyataan Huang. Pembangun bergantung pada kapasiti pengkomputeran untuk membina dan mengendalikan model yang semakin berkeupayaan, manakala penyelidik memerlukan akses kepada sumber seumpamanya untuk mengkajinya.

Huang berkata permintaan terhadap infrastruktur AI akan terus melebihi bekalan komponen selama beberapa tahun. Ketika berucap di sebuah acara di London, ketua eksekutif Nvidia itu berkata:

Akhirnya, bekalan dan permintaan akan seimbang, tetapi belum lagi.

Kekurangan kapasiti pengkomputeran menjadikan kedua-dua aspek pendirian Nvidia itu penting. Keputusan untuk menghentikan bekalan kepada pelanggan boleh menjejaskan rancangan pengembangan pembangun tersebut. Penyediaan masa pengkomputeran kepada penyelidik pula memberi mereka akses kepada sumber yang turut mendapat permintaan tinggi dalam sektor komersial.

Nvidia mencadangkan dua cara untuk mempengaruhi keselamatan: menetapkan kemungkinan batas bagi pelanggan dan menyokong penyelidikan untuk kawalan yang lebih baik. Ujian praktikalnya ialah cara program pengkomputeran Britain dilaksanakan dan cara syarikat itu memenuhi kesediaan yang dinyatakannya untuk campur tangan apabila kelakuan pelanggan menimbulkan kebimbangan.

Perkara Utama

• Jensen Huang berkata Nvidia akan mempertimbangkan untuk menghentikan bekalan cip kepada pembangun AI yang tidak bertanggungjawab, selepas terlebih dahulu membincangkan kebimbangannya dengan pelanggan itu.
• Pengumuman Nvidia pada 13 Oktober 2026 memperuntukkan sumber pengkomputeran bernilai $250 juta selama lima tahun untuk penyelidikan keselamatan dan sekuriti AI di Britain, dengan peruntukan $50 juta setahun.
• Akses pengkomputeran akan dibiayai melalui NVIDIA Cloud Partners yang berpangkalan di UK menggunakan infrastruktur di UK; penyedia tertentu, seni bina teknikal dan terma komersial masih belum dimuktamadkan.
• Kebanyakan akses pengkomputeran akan menyokong komuniti penyelidikan keselamatan dan sekuriti UK yang lebih luas, dengan sebahagiannya menyokong BOLD, SOFAIR dan Imperial College London.
• Penyelidikan akan merangkumi ejen AI, model terbuka, kerjasama antara manusia dengan AI serta keselamatan robotik.
• Menurut Menteri AI Kanishka Narayan, Institut Keselamatan AI Britain boleh meneliti model AI canggih dari AS sebelum pelancaran.
• Huang menyokong pembangunan lebih pantas bagi teknologi pemantauan dan pembendungan AI serta menjangkakan permintaan terhadap infrastruktur AI akan melebihi bekalan komponen selama beberapa tahun.