Universiti Zhejiang Cadangkan Undang-undang AI Berdasarkan Kesepadanan Sistem dengan Tugasnya

Cadangan 99 Artikel untuk Menentukan Perkara yang Dibenarkan Dilakukan oleh AI

Penyelidik Universiti Zhejiang telah mengeluarkan cadangan pakar bagi undang-undang kecerdasan buatan yang mengandungi lapan bab dan 99 artikel, dengan idea utama bahawa kuasa yang diberikan kepada sistem AI harus sepadan dengan tahap kebolehpercayaannya dan kesan tugas yang dilaksanakannya.

Cadangan Versi 1.0 Universiti Zhejiang dibentangkan pada majlis pelancaran 24 September. Notis rasmi acara universiti itu menjadualkan majlis tersebut pada 24 September 2026, dari pukul 2 petang hingga 5.30 petang di kampus Zijingang. Agendanya meletakkan pembangunan industri bersama-sama perlindungan hak dan akauntabiliti, mencerminkan dua tuntutan yang ingin ditangani oleh cadangan itu.

Bagi mereka yang terkesan oleh AI, kebimbangan praktikalnya sudah dirasai sekarang. Bolehkah pengendali model menggunakan karya ilustrator untuk latihan tanpa kebenaran? Siapa yang bertanggungjawab apabila model bahasa memberikan jawapan yang memudaratkan dan tidak tepat? Bagaimanakah seseorang boleh menyimpan bukti dan mendapatkan penyelesaian selepas video yang menggunakan wajahnya tanpa kebenaran tersebar dalam talian?

Perniagaan pula berdepan kebimbangan lain: keperluan pematuhan yang bertindih, prosedur membebankan sebelum produk boleh digunakan, serta kos yang mungkin sukar ditanggung oleh syarikat lebih kecil. Para penyelidik berkata pendekatan mereka bertujuan melindungi hak sambil menangani tekanan tersebut.

Dokumen itu ialah cadangan akademik untuk perbincangan dan semakan lanjut. Idea yang paling terperinci ialah kaedah menilai AI dalam konteks tertentu dengan menghubungkan keupayaan sistem, tahap kebolehpercayaannya beroperasi dan kepentingan perkara yang dipertaruhkan bagi mereka yang terkesan.

Bagaimana Draf Itu Dibentuk

Pasukan penggubal menghabiskan hampir enam bulan membangunkan cadangan itu dan melengkapkan lima pusingan semakan intensif. Draf awal yang mengandungi 174 artikel dikurangkan kepada 99, iaitu pengurangan sebanyak 75 artikel atau kira-kira 43%. Ini menunjukkan sejauh mana teks itu dipadatkan sepanjang proses pembangunan, walaupun bilangan artikel sahaja tidak banyak menggambarkan tuntutan yang akan dikenakan oleh peruntukan tertentu terhadap pengguna atau syarikat.

Para penyelidik mengunjungi lebih 20 perniagaan AI di Hangzhou serta syarikat internet terkemuka. Usaha mereka turut memanfaatkan perbincangan di forum perundangan Zhijiang, pertukaran pandangan dengan kementerian dan suruhanjaya berkaitan, serta beberapa pusingan semakan pakar. Penyelidikan dijalankan seiring dengan usaha merangka dua peraturan tempatan mengenai industri AI Hangzhou dan pembangunan bandar itu sebagai kota inovasi.

Penganjur program itu ialah Sekolah Undang-undang Guanghua Universiti Zhejiang, Institut Penyelidikan Undang-undang dan Tadbir Urus Digital universiti itu, Institut Penyelidikan Perundangan Zhejiang dan Institut Penyelidikan Perundangan Universiti Zhejiang. Agenda rasmi menamakan Li Wenlong, seorang penyelidik di Sekolah Undang-undang Guanghua, sebagai pihak yang membentangkan dan memperkenalkan cadangan tersebut.

Urutan pembangunan dan pelancaran adalah seperti berikut:

• Selama hampir enam bulan, pasukan itu menjalankan lawatan ke perniagaan, rundingan dan lima pusingan semakan.
• Pada 24 September, cadangan itu dibentangkan di Universiti Zhejiang, dengan notis rasmi menyatakan acara itu berlangsung pada 2026.
• Selepas mesyuarat itu, pasukan berhasrat mengambil kira maklum balas dan menghasilkan versi seterusnya.

Tiga Soalan di Sebalik Peraturan yang Dicadangkan

Sun Xiaoxia, pengarah Institut Penyelidikan Undang-undang dan Tadbir Urus Digital Universiti Zhejiang, menghuraikan rangka kerja itu melalui tiga elemen yang saling berkaitan: keupayaan pelaksanaan, kematangan kognitif serta sifat dan kesan sesuatu tugas. Secara ringkas, persoalannya ialah perkara yang boleh dilakukan oleh sistem AI, sejauh mana ia boleh diharap dan betapa pentingnya keputusan yang dibuatnya.

Sun menjelaskan pandangannya tentang punca risiko AI dalam bahasa Cina:

Kami berpendapat bahawa risiko kecerdasan buatan bukan berpunca daripada betapa hebatnya mesin, tetapi daripada ketidakpadanan antara keupayaan, kognisi dan tugas.

Sesuatu sistem mungkin mampu melaksanakan rangkaian operasi yang panjang tanpa campur tangan manusia, namun sukar mengenal pasti situasi luar biasa. Memberikan sistem itu tugas yang melibatkan keselamatan diri akan mewujudkan jurang berbahaya antara kebebasannya untuk bertindak dengan keupayaannya menilai apabila sesuatu tidak kena.

Oleh itu, cadangan tersebut menilai lebih daripada sekadar label yang diberikan kepada sesuatu teknologi. Pihak pengawal selia akan meneliti versi tertentu sesuatu sistem, tujuan penggunaannya dan persekitaran operasinya. Teknologi asas yang sama mungkin memerlukan kawalan berbeza apabila digunakan untuk tugas yang berlainan.

Keupayaan dan Kebolehpercayaan Dinilai Secara Berasingan

Skala keupayaan yang dicadangkan mempunyai empat tahap: bantuan, automasi terhad, automasi tinggi dan pelaksanaan autonomi. Penilaian akan mempertimbangkan sejauh mana sistem bertindak secara bebas, keluasan kesan keputusannya, alat yang boleh diaksesnya, tempoh operasi berterusan dan sama ada ia boleh mengubah persekitaran digital atau fizikal.

Akses kepada alat penting kerana sistem AI yang sekadar mencadangkan tindakan mempunyai jangkauan berbeza daripada sistem yang dibenarkan melaksanakannya. Kebenaran untuk mengendalikan perisian atau peralatan lain boleh mengubah jawapan yang salah menjadi rangkaian tindakan sebenar.

Kematangan kognitif juga akan mempunyai empat tahap, iaitu asas, umum, lebih tinggi dan kawalan tinggi. Penilaian akan meneliti ketepatan, konsistensi, keupayaan mengenal pasti input luar biasa dan membetulkan kesilapan, keselamatan siber, kebolehkesanan serta keadaan yang membolehkan seseorang mengambil alih kawalan.

Kalibrasi keyakinan ialah satu lagi faktor. Secara mudah, ini bermaksud menilai sama ada tahap keyakinan yang ditunjukkan oleh sistem sepadan dengan kekerapan sistem itu memberikan jawapan yang betul. Sistem yang kedengaran yakin sedangkan sering melakukan kesilapan boleh menjadi amat sukar untuk dipantau pengguna.

Rangka kerja itu juga akan meneliti sama ada output penting boleh dijelaskan dan sama ada sistem boleh kekal dalam had yang ditetapkan. Dengan memisahkan keupayaan daripada kebolehpercayaan, pengawal selia boleh mengenal pasti sistem yang cukup berkuasa untuk bertindak secara bebas tetapi tidak cukup boleh diharap bagi tugasan yang sensitif.

Tugas Mana yang Akan Diteliti dengan Lebih Rapi?

Cadangan itu membahagikan tugas kepada tiga tahap kesan: rendah, umum dan tinggi. Penilaian akan mempertimbangkan kepentingan hak yang terjejas, kemungkinan dan tahap kemudaratan, bilangan orang yang terkesan, tempoh kesan, sama ada keputusan boleh dipulihkan serta sama ada mereka yang terkesan boleh mendapatkan penyelesaian.

Kerentanan juga akan diambil kira. Keputusan yang melibatkan seseorang yang mempunyai keupayaan terhad untuk mencabarnya mungkin memerlukan penelitian lebih rapi berbanding keputusan serupa yang melibatkan seseorang yang mudah mendapatkan bantuan.

Tugas yang melibatkan nyawa dan kesihatan, kebebasan diri, maruah manusia, peluang sama rata, kepentingan harta benda yang besar, pendidikan, pekerjaan, keselamatan sosial, keadilan, penguatkuasaan pentadbiran atau keselamatan awam akan dianggap berimpak tinggi. Tugas yang berupaya menjejaskan sebilangan besar orang secara ketara juga akan menerima anggapan yang sama.

Cadangan itu turut menyatakan bahawa aplikasi AI yang dilarang tidak boleh dibangunkan, digunakan atau dilaksanakan, tanpa mengira klasifikasi impak tugasnya. Huraian yang dikeluarkan bersama cadangan itu tidak memperincikan senarai aplikasi terlarang atau jawapan undang-undang yang tepat bagi setiap pertikaian hak cipta, output tidak tepat dan penggantian wajah yang dibangkitkan pada awal artikel.

Contoh Perubatan Menjelaskan Prinsip Kesepadanan

Sun menggunakan pengimejan perubatan dan analisis patologi untuk menunjukkan sebab tugas yang diberikan kepada sistem sama pentingnya dengan kekuatan teknikalnya. AI boleh memproses sejumlah besar imej dan data perubatan dengan pantas, sementara keupayaan penaakulannya mungkin masih terbatas apabila berdepan keadaan yang sukar atau luar biasa.

Tugas yang sesuai akan mengambil kira kedua-dua ciri ini. Memberikan tanggungjawab penuh kepada sistem untuk membuat diagnosis yang sukar sambil terlalu mempercayai pertimbangannya akan mewujudkan ketidakpadanan yang ingin ditangani oleh rangka kerja itu.

Sun menghuraikan matlamat itu dalam bahasa Cina:

Mewajibkan kesepadanan berbeza daripada sekadar mengenakan sekatan; tujuannya ialah mencari kesepadanan terbaik antara keupayaan, kognisi dan tugas.

Pada pandangan beliau, sistem yang berprestasi lemah dalam tugas mencabar boleh ditugaskan semula kepada tugas yang kurang rumit dan bukannya diketepikan. Maka, pilihan praktikalnya lebih luas daripada membenarkan penggunaan tanpa sekatan atau menghalang penggunaan sepenuhnya. Pihak berkuasa dan pengendali boleh mengubah suai tugas, kebenaran sistem atau tahap penglibatan manusia.

Bagi hospital, pendekatan itu akan menumpukan perhatian pada tugas khusus yang diberikan kepada AI dan perlindungan yang mengiringinya. Bagi pesakit, kebimbangan utamanya ialah sama ada peranan sistem itu sesuai dengan tahap serius keputusan tersebut.

Kelulusan Perlu Berubah Seiring Perubahan AI

Proses tadbir urus yang dicadangkan merangkumi enam peringkat: penyelidikan dan pembangunan, pengujian, pelaksanaan, operasi, penambahbaikan dan penarikan balik. Pengelasan akan diteruskan sepanjang peringkat tersebut kerana keupayaan dan keadaan sesuatu sistem boleh berubah selepas ia mula digunakan.

Kemas kini model mungkin meningkatkan julat tindakan yang boleh dilakukan oleh sistem. Pengembangan ke persekitaran baharu mungkin mendedahkan lebih ramai orang atau kepentingan yang lebih sensitif kepada keputusannya. Data baharu juga boleh mengubah tingkah laku model, termasuk mengurangkan kebolehpercayaan dengan cara yang tidak kelihatan semasa pengujian terdahulu.

Cadangan itu menyeru penilaian semula apabila sistem atau tugas berubah. Sesuatu penilaian akan terikat pada versi, tujuan dan persekitaran operasi yang khusus, sekali gus memberi sebab kepada pengendali untuk menyemak semula kewajipan mereka apabila mana-mana unsur tersebut berubah.

Sun mengenal pasti lapan bidang yang boleh dipandu oleh prinsip kesepadanan itu dalam peraturan undang-undang: pengelasan, pembahagian tugas, penilaian, pengenalpastian penggunaan berimpak tinggi, tahap kawal selia, kawalan risiko, tanggungjawab undang-undang dan pelarasan dari semasa ke semasa. Menghubungkan keputusan-keputusan itu melalui satu rangka kerja ialah usaha utama cadangan tersebut untuk menjadikan tadbir urus AI lebih tersusun.

Perlindungan Hak dan Tanggungjawab Perniagaan Bergantung pada Perincian

Persoalan tentang ilustrator, jawapan yang tidak tepat dan video palsu menunjukkan sebab akauntabiliti penting melangkaui pengujian teknikal. Seseorang yang menuntut pampasan atau pemadaman kandungan berbahaya memerlukan laluan yang boleh digunakan untuk menghubungkan kemudaratan yang dialaminya dengan pihak yang bertanggungjawab.

Cadangan itu meletakkan tanggungjawab undang-undang dalam rangka kerja kesepadanan. Ini bermakna kesesuaian sistem untuk tugas yang diberikan akan menjadi perkara yang relevan dalam perbincangan tentang kewajipan dan akauntabiliti. Namun, hubungan antara hasil penilaian dengan peraturan sedia ada tentang liabiliti sivil ialah antara perkara yang menurut Sun memerlukan penelitian lebih lanjut.

Para penyelidik juga perlu memperincikan cara menguji kematangan kognitif dan sejauh mana jurang antara keupayaan, kebolehpercayaan dan tuntutan tugas perlu dianggap sebagai ketidakpadanan. Pilihan tersebut akan menentukan sejauh mana syarikat dapat menerapkan rangka kerja itu secara konsisten dan pengawal selia dapat menyemak penilaian mereka dengan berkesan.

Agenda pelancaran itu menghimpunkan keperluan praktikal yang bersaing tersebut dalam program yang sama. Sesi industrinya menyenaraikan pakar undang-undang daripada Meituan dan Douyin bersama peserta akademik dan teknikal. Sesi hak dan akauntabilitinya pula menyenaraikan pengarah pematuhan Alibaba, peguam dan sarjana universiti. Penyertaan mereka menunjukkan kepelbagaian perspektif yang ingin dihimpunkan oleh penganjur untuk perbincangan itu; agenda tersebut tidak memberikan asas untuk mengaitkan pendirian bersama tentang draf itu kepada para peserta.

Bagi perniagaan lebih kecil, perkara penting yang perlu dipertimbangkan ialah bilangan penilaian yang diperlukan, bukti yang mesti dikemukakan dan perubahan kewajipan seiring pembangunan produk. Bagi mereka yang terkesan oleh AI, persoalannya ialah sama ada kewajipan tersebut membantu mencegah kemudaratan dan menyediakan penyelesaian yang boleh digunakan apabila berlaku masalah.

Pasukan penyelidik merancang untuk menyemak semula cadangan itu berdasarkan maklum balas daripada mesyuarat tersebut. Tugas utama kini ialah menterjemahkan prinsip kesepadanan kepada ujian, ambang dan peraturan tanggungjawab yang boleh digunakan dalam pertikaian sebenar serta keputusan berkaitan produk.

Perkara Utama

• Cadangan undang-undang AI pakar Universiti Zhejiang mengandungi lapan bab dan 99 artikel, dipadatkan daripada draf awal yang mempunyai 174 artikel.
• Rangka kerja itu menghubungkan keupayaan pelaksanaan sistem, kebolehpercayaan kognitif dan tugas yang diberikan.
• Tugas sensitif berkaitan kesihatan, kebebasan, pekerjaan, pendidikan dan bidang lain akan dianggap berimpak tinggi.
• Penilaian akan meliputi keseluruhan kitaran pembangunan dan penggunaan serta berubah apabila sistem atau tugasnya berubah.
• Cadangan akademik itu akan disemak lagi, manakala kaedah pengujian, ambang dan peraturan liabiliti memerlukan perincian lanjut.