Korea Selatan Gubal Undang-undang AI Komprehensif Pertama di Dunia, Seimbangkan Inovasi dan Keselamatan

Korea Selatan Mendahului Dunia dengan Akta Asas AI

Korea Selatan secara rasmi menggubal apa yang didakwanya sebagai rangkaian undang-undang komprehensif pertama di dunia yang mengawal kecerdasan buatan. "Akta Asas AI" yang mengandungi enam bab dan 43 artikel itu berkuat kuasa pada Khamis, sekali gus mewujudkan rangka kerja kawal selia yang meliputi bidang aktiviti AI dan pelbagai pihak berkaitan dalam skala yang luar biasa luas. Perundangan itu bertujuan melindungi rakyat sambil mewujudkan apa yang disifatkan pegawai sebagai "asas kepercayaan" dalam masyarakat yang semakin didorong AI.

Langkah bersejarah ini meletakkan Korea Selatan di hadapan ekonomi utama lain dalam mewujudkan pendekatan bersatu terhadap tadbir urus AI. Kesatuan Eropah mula melaksanakan beberapa peraturan berkaitan AI pada tahun lalu, tetapi sebahagian besar teras Akta AI-nya akan mula dilaksanakan secara berperingkat pada Ogos. Amerika Syarikat masih belum mempunyai undang-undang AI persekutuan, meskipun Rumah Putih mengeluarkan perintah eksekutif bulan lalu yang mencabar undang-undang negeri yang "membebankan" dan dianggap menghalang inovasi AI. China mengambil pendekatan berbeza dengan menambah peruntukan tertentu mengenai etika atau pemantauan risiko ke dalam undang-undang keselamatan sibernya yang sedia ada.

Akta Asas AI Korea Selatan merupakan langkah penting dalam usaha global mengawal selia teknologi kecerdasan buatan. Undang-undang itu direka untuk mencapai dua matlamat yang saling melengkapi: memupuk pertumbuhan industri AI Korea Selatan sambil melaksanakan perlindungan yang diperlukan bagi melindungi rakyat daripada potensi risiko berkaitan penggunaan AI.

Kami mendekati perkara ini berdasarkan konsensus global yang paling asas. Matlamatnya bukan untuk menghentikan pembangunan AI melalui peraturan. Sebaliknya, kami mahu memastikan orang ramai dapat menggunakannya dengan penuh keyakinan.

Kenyataan Kim Kyeong-man, timbalan menteri pejabat dasar AI di kementerian ICT itu, menyerlahkan hasrat Korea Selatan untuk mewujudkan rangka kerja seimbang yang tidak menghalang kemajuan teknologi, sambil menangani kebimbangan orang ramai tentang keselamatan dan kebolehpercayaan.

Menentukan Sistem AI Berimpak Tinggi

Ciri utama undang-undang baharu Korea Selatan ialah tumpuannya pada "AI berimpak tinggi"—sistem yang berpotensi memberi kesan besar terhadap kehidupan manusia, keselamatan atau hak asasi. Perundangan itu secara khusus mengenal pasti 11 bidang kritikal yang memerlukan langkah pengawasan dan ketelusan lebih ketat bagi sistem AI:

• Sistem bekalan tenaga
• Proses pengeluaran air minuman
• Sistem perkhidmatan penjagaan kesihatan
• Pembangunan dan penggunaan peranti perubatan
• Pengurusan bahan dan kemudahan nuklear
• Analisis maklumat biometrik untuk siasatan jenayah
• Penilaian pekerjaan dan pinjaman
• Sistem dan pengurusan pengangkutan
• Pembuatan keputusan kerajaan yang memberi kesan kepada perkhidmatan awam
• Penilaian pelajar dalam pendidikan
• Bidang lain yang memberi kesan besar terhadap kehidupan, keselamatan dan hak manusia

Bagi aplikasi berimpak tinggi ini, syarikat perlu melaksanakan beberapa perlindungan utama. Mereka mesti dapat menerangkan logik pembuatan keputusan sistem AI jika diminta, memastikan manusia boleh campur tangan apabila perlu, dan memaklumkan pengguna dengan jelas bahawa mereka sedang berinteraksi dengan perkhidmatan berasaskan AI. Ini terpakai, misalnya, kepada sistem yang digunakan untuk menapis pemohon pinjaman atau peluang pekerjaan.

Undang-undang itu memperkenalkan perbezaan penting antara "AI berimpak tinggi" dengan apa yang disebut Korea Selatan sebagai "AI berprestasi tinggi". Kesatuan Eropah memberi tumpuan terutamanya kepada risiko khusus aplikasi dalam peraturannya, manakala Korea Selatan mengambil pendekatan berbeza dengan menggunakan ambang teknikal untuk menentukan sistem yang perlu dikawal selia. Ambang ini merangkumi petunjuk seperti jumlah pengiraan kumulatif untuk latihan, bermakna hanya set model canggih yang sangat terhad akan tertakluk pada syarat keselamatan paling ketat.

Kerajaan Korea Selatan kini menyatakan bahawa tiada model AI sedia ada, sama ada dari dalam atau luar negara, memenuhi kriteria untuk dikawal selia di bawah klausa AI berprestasi tinggi ini. Begitu juga, pegawai menyatakan bahawa tiada perkhidmatan domestik pada masa ini tergolong dalam kategori "berimpak tinggi", walaupun kenderaan autonomi sepenuhnya Tahap 4 atau lebih tinggi berpotensi memenuhi kriteria itu pada masa depan.

Keperluan Ketelusan dan Pelabelan AI

Salah satu aspek paling ketara dalam peraturan AI Korea Selatan ialah keperluan ketelusan bagi kandungan yang dijana AI. Di bawah undang-undang baharu itu, syarikat mesti meletakkan label yang jelas atau boleh didengar—seperti tera air—pada kandungan janaan AI yang boleh disalah anggap sebagai kandungan sebenar. Keperluan ini khususnya menyasarkan kandungan deepfake dan hasil AI lain yang berisiko menyebarkan maklumat salah atau memperdaya orang ramai.

Pendekatan pelabelan berbeza mengikut jenis kandungan. Bagi hasil yang perlu dibezakan daripada kandungan sebenar demi keselamatan atau ketulenan, pelabelan yang jelas diwajibkan. Namun, bagi kandungan kreatif yang dihasilkan menggunakan AI, seperti permainan, animasi atau webtoon, undang-undang itu membenarkan kaedah pendedahan yang kurang ketara, termasuk meletakkan label dalam metadata yang mungkin tidak kelihatan serta-merta kepada pengguna akhir.

Pendekatan terperinci ini menimbulkan persoalan dalam industri seperti penghasilan webtoon, apabila platform dan pencipta tidak pasti tentang keluasan takrif kandungan "dijana AI". Kebimbangan masih timbul sama ada penggunaan AI secara sebahagian—seperti menjana latar belakang, mewarna atau menyunting—akan mencetuskan kewajipan pendedahan. Undang-undang itu tidak mengawal pengguna individu yang sekadar menggunakan alat AI, tetapi terpakai kepada platform dan syarikat yang menawarkan alat penciptaan berasaskan AI atau mengedarkan karya yang dijana AI.

Meletakkan tera air pada kandungan yang dijana AI ialah perlindungan minimum untuk mencegah kesan sampingan daripada penyalahgunaan teknologi AI, seperti kandungan deepfake.

Kenyataan pegawai kementerian itu menegaskan keutamaan kerajaan terhadap pelabelan sebagai langkah perlindungan asas bagi mencegah penyalahgunaan AI. Keperluan ketelusan ini bukan sahaja meliputi pelabelan kandungan, malah turut mewajibkan pendedahan apabila pengguna berinteraksi dengan perkhidmatan berasaskan AI. Syarikat mesti memaklumkan pengguna terlebih dahulu apabila menawarkan produk atau perkhidmatan yang menggunakan AI berimpak tinggi atau AI generatif, biasanya melalui kaedah seperti amaran timbul atau notis yang mudah dilihat.

Struktur Tadbir Urus dan Sokongan Industri

Akta Asas AI mewujudkan struktur tadbir urus yang menyeluruh bagi dasar AI di Korea Selatan. Kementerian Sains dan ICT berperanan sebagai pihak berkuasa utama yang bertanggungjawab melaksanakan dasar AI, manakala Jawatankuasa AI Kebangsaan beroperasi di bawah presiden untuk membincangkan dan menentukan hala tuju dasar AI yang lebih luas. Perundangan itu turut menubuhkan Pusat Dasar AI dan Institut Keselamatan AI bagi menyokong pelaksanaan dasar serta menangani kebimbangan keselamatan.

Selain langkah kawal selia, undang-undang itu mengandungi banyak peruntukan yang bertujuan menyokong pembangunan dan pertumbuhan AI di Korea Selatan. Langkah promosi ini merangkumi sokongan untuk penyelidikan dan pembangunan AI, penyeragaman teknologi AI, pembangunan data latihan AI serta inisiatif membantu syarikat menerima pakai dan menggunakan teknologi AI. Perhatian khusus diberikan kepada sokongan untuk perusahaan kecil dan sederhana, syarikat pemula serta pembangunan bakat dalam bidang AI.

Undang-undang itu turut menyediakan asas perundangan untuk mewujudkan "Pelan Asas AI", yang akan menjadi pelan hala tuju dasar bagi pembangunan teknologi AI di Korea Selatan. Pendekatan menyeluruh ini mengiktiraf bahawa pengawalseliaan AI yang berjaya bukan sekadar memerlukan sekatan, tetapi juga sokongan aktif terhadap inovasi dan daya saing dalam landskap AI global.

Bagi mengurangkan beban awal terhadap perniagaan, kerajaan Korea Selatan melaksanakan tempoh kelonggaran sekurang-kurangnya setahun. Dalam tempoh ini, pihak berkuasa tidak akan menjalankan siasatan pencarian fakta atau mengenakan sekatan pentadbiran, sebaliknya menumpukan perhatian kepada rundingan dan pendidikan. Meja bantuan khusus Akta AI ditubuhkan untuk membantu syarikat menentukan sama ada sistem mereka termasuk dalam skop undang-undang itu dan cara memberikan tindak balas yang sewajarnya.

Meja Bantuan Akta Rangka Kerja AI, yang dikendalikan pakar daripada organisasi termasuk Institut Keselamatan AI dan Agensi Masyarakat Maklumat Kebangsaan, menyediakan rundingan sulit serta panduan kepada pihak yang membangunkan, menjalankan perniagaan dengan atau menggunakan alat kecerdasan buatan sambil mematuhi peraturan baharu.

Keperluan Pematuhan dan Penalti

Syarikat yang beroperasi di Korea Selatan atau menawarkan perkhidmatan kepada pengguna Korea perlu mematuhi kewajipan khusus di bawah undang-undang baharu itu. Syarikat AI asing yang memenuhi kriteria tertentu—seperti memperoleh hasil tahunan global sebanyak 1 trilion won ($681 juta) atau lebih, jualan domestik sebanyak 10 bilion won atau lebih, atau mempunyai sekurang-kurangnya 1 juta pengguna harian di negara itu—mesti melantik wakil tempatan untuk berurusan dengan pihak berkuasa. Buat masa ini, syarikat besar seperti OpenAI dan Google tertakluk pada keperluan ini.

Pengendali AI dibahagikan kepada dua kategori: pengendali pembangunan AI yang membangunkan dan menyediakan AI, serta pengendali penggunaan AI yang menyediakan produk atau perkhidmatan AI menggunakan AI yang dibekalkan oleh pembangun. Kedua-dua kategori tertakluk pada kewajipan ketelusan, tetapi tumpuan kawal selia kekal terutamanya pada sistem AI berimpak tinggi dan AI generatif.

Pendekatan penguatkuasaan di bawah undang-undang Korea Selatan sengaja dibuat lebih ringan berbanding bidang kuasa lain. Undang-undang itu tidak mengenakan hukuman jenayah. Sebaliknya, keutamaan diberikan kepada arahan pembetulan bagi ketidakpatuhan, dengan denda—dihadkan kepada 30 juta won ($26,200)—hanya dikenakan jika arahan tersebut diabaikan. Seperti yang ditekankan pegawai kerajaan, pendekatan ini mengutamakan pematuhan dan bukannya hukuman.

Sebagai perbandingan, rangka kerja kawal selia EU menetapkan sekatan yang jauh lebih berat dengan pelbagai kadar penalti bergantung pada jenis pelanggaran, termasuk denda pentadbiran sehingga 7% daripada perolehan tahunan global. Perbezaan ketara dalam tahap penalti ini mencerminkan hasrat Korea Selatan untuk mengekalkan peraturan minimum sambil tetap mewujudkan rangka kerja keselamatan asas.

Tiga pelanggaran khusus yang boleh dikenakan denda di bawah undang-undang Korea Selatan ialah: kegagalan memaklumkan pihak berkuasa tentang operasi berasaskan AI ketika menawarkan produk atau perkhidmatan yang menggunakan AI berimpak tinggi atau AI generatif, kegagalan melantik wakil domestik apabila diwajibkan, dan kegagalan mematuhi arahan penggantungan atau pembetulan yang dikeluarkan Menteri Sains dan ICT.

Tindak Balas Industri dan Kebimbangan Syarikat Pemula

Kerajaan menyifatkan Akta Asas AI sebagai pendekatan seimbang yang menyokong inovasi sambil memastikan keselamatan, namun tidak semua pihak dalam industri teknologi berkongsi pandangan ini. Syarikat pemula Korea Selatan menyuarakan kebimbangan tentang kemungkinan beban pematuhan yang dikenakan oleh peraturan baharu itu, khususnya kerana ia berkuat kuasa lebih awal berbanding rangka kerja serupa di negara lain.

Menurut tinjauan oleh Startup Alliance, hanya 2% syarikat pemula yang menumpukan pada AI berasa mereka sudah mempunyai pelan pematuhan rasmi, manakala kira-kira separuh mengakui mereka belum memahami sepenuhnya keperluan undang-undang baharu itu. Kekurangan kejelasan ini menimbulkan kebimbangan dalam kalangan pengasas yang bimbang bahasa perundangan yang kabur mungkin memaksa mereka mengambil pendekatan pembangunan yang terlalu berhati-hati demi mengelakkan risiko kawal selia.

Ada sedikit rasa tidak puas hati—mengapa kita perlu menjadi yang pertama melakukannya?

Kenyataan Lim Jung-wook, pengerusi bersama Startup Alliance Korea Selatan, menggambarkan kekecewaan sesetengah usahawan kerana perlu mematuhi peraturan AI menyeluruh sebelum pesaing global mereka. Ramai pengasas mempersoalkan sama ada menjadi negara pertama yang mengawal selia AI akan memberikan kelebihan kepada Korea Selatan atau meletakkan syarikat domestiknya pada kedudukan yang kurang menguntungkan di peringkat antarabangsa.

Presiden Lee Jae Myung mengakui kebimbangan ini dan menggesa pembuat dasar mendengar maklum balas industri serta memastikan syarikat usaha niaga dan syarikat pemula menerima sokongan yang sewajarnya. Dalam satu mesyuarat baru-baru ini dengan para pembantu, Lee menegaskan pentingnya memaksimumkan potensi industri melalui sokongan institusi sambil mengurus lebih awal kesan sampingan yang dijangka.

Kementerian Sains dan ICT bertindak balas terhadap kebimbangan ini dengan merancang platform panduan dan pusat sokongan khusus untuk syarikat sepanjang tempoh kelonggaran. Jurucakap berkata kerajaan terus meneliti langkah untuk meminimumkan beban terhadap industri dan sedang mempertimbangkan untuk melanjutkan tempoh kelonggaran jika keadaan industri domestik dan luar negara memerlukannya.

Perbandingan dengan Pendekatan Antarabangsa

Akta Asas AI Korea Selatan mencerminkan falsafah kawal selia tersendiri yang berbeza daripada pendekatan ekonomi utama lain. Perundangan itu merujuk kepada model AS yang menumpukan pada autonomi sektor swasta serta model kawal selia EU yang mengutamakan keselamatan dan kebolehpercayaan. Akhirnya, Korea Selatan memilih laluan unik yang cuba menyelaraskan peraturan minimum dengan promosi AI demi mencapai matlamat menjadi negara terkemuka dalam daya saing AI global.

Seperti Akta AI EU, rangka kerja Korea Selatan mentakrifkan sistem AI dan menetapkan pelbagai kewajipan berkaitan AI berimpak tinggi, termasuk Penilaian Impak Hak Asasi (FRIA). Namun, tahap kawal selia khusus mungkin berubah mengikut perundangan bawahan pada masa depan, yang dijangka diterbitkan pada separuh pertama 2025.

Perbezaan ketara antara pendekatan Korea Selatan dan EU terletak pada cara kewajipan disusun. Akta AI EU menetapkan kewajipan berbeza berdasarkan jenis peserta dalam rantaian nilai AI, manakala Akta Rangka Kerja AI Korea Selatan mentakrifkan kewajipan secara menyeluruh tanpa membezakan jenis peserta. Pendekatan lebih mudah ini mungkin mengurangkan kerumitan, tetapi juga boleh menimbulkan cabaran untuk melaksanakan pengawasan yang sewajarnya merentas ekosistem AI yang pelbagai.

Pendekatan Korea Selatan dalam mentakrifkan AI berimpak tinggi juga berbeza daripada kaedah EU. EU memberi tumpuan pada risiko khusus aplikasi—menyasarkan AI yang digunakan dalam bidang seperti penjagaan kesihatan, pengambilan pekerja dan penguatkuasaan undang-undang—manakala Korea Selatan menggunakan ambang teknikal untuk menentukan sistem yang perlu dikawal selia. Ini termasuk petunjuk seperti jumlah pengiraan kumulatif untuk latihan, sekali gus berpotensi menghasilkan set sistem terkawal yang jauh lebih kecil berdasarkan keupayaan teknologi semasa.

Perbezaan falsafah kawal selia turut jelas pada penalti bagi pelanggaran. EU menetapkan sekatan berat dengan denda sehingga 7% daripada perolehan tahunan global, manakala rangka kerja Korea Selatan mengenakan denda pentadbiran sehingga hanya 30 juta won (kira-kira $26,200). Perbezaan besar ini mencerminkan penekanan Korea Selatan terhadap pematuhan dan pembetulan, bukannya hukuman.

Implikasi Global dan Prospek Masa Depan

Penggubalan undang-undang AI menyeluruh oleh Korea Selatan membawa implikasi besar terhadap landskap AI global. Sebagai negara kedua selepas Kesatuan Eropah yang menerima pakai rangka kerja kawal selia AI menyeluruh, Korea Selatan menyediakan contoh perundangan baharu yang boleh dipertimbangkan negara lain ketika membangunkan pendekatan masing-masing terhadap tadbir urus AI.

Kelulusan undang-undang itu di sebalik pergolakan politik yang melibatkan pengisytiharan undang-undang tentera oleh Presiden Yoon Suk Yeol dan pemecatannya selepas itu menunjukkan wujudnya konsensus merentas parti tentang kepentingan pengawalseliaan AI. Akta itu diluluskan dalam sidang pleno Perhimpunan Kebangsaan pada 26 Disember 2024 dengan sokongan bipartisan yang amat besar, sekali gus menonjolkan persetujuan politik yang meluas dalam menangani cabaran AI.

Menjelang masa depan, pegawai Korea Selatan mengakui bahawa perundangan semasa ialah titik permulaan dan bukannya produk muktamad. Pelaksanaan terperinci bagi banyak peruntukan akan bergantung pada perundangan bawahan dan garis panduan khusus sektor yang akan dimuktamadkan dalam tempoh persediaan setahun sebelum undang-undang itu berkuat kuasa sepenuhnya pada Januari 2026.

Fungsi penyelarasan Jawatankuasa AI Kebangsaan akan menjadi penting ketika Korea Selatan berusaha menyelaraskan kepakaran kementerian berkaitan dengan mengambil kira ciri kumpulan sasaran kawal selia atau sektor yang berbeza. Apabila teknologi AI berkembang ke semua bidang—daripada maklumat peribadi dan hak cipta hingga penjagaan kesihatan dan pertahanan—tadbir urus yang berkesan memerlukan penyelarasan teliti antara pelbagai agensi kerajaan.

Ketika norma global dan perbincangan tadbir urus mengenai AI semakin rancak, keperluan terhadap kesalingoperasian antarabangsa dan kerjasama dalam peraturan bagi memastikan AI boleh dipercayai semakin meningkat. Pendekatan Korea Selatan mungkin mempengaruhi perbincangan antarabangsa ini, khususnya mengenai cara mengimbangi inovasi dengan kebimbangan keselamatan dalam tadbir urus AI.

Kesimpulan

• Korea Selatan menggubal undang-undang AI menyeluruh pertama di dunia, iaitu Akta Asas AI, yang meliputi pembangunan, penggunaan dan pelaksanaan kecerdasan buatan.
• Undang-undang itu mentakrifkan "AI berimpak tinggi" dalam 11 sektor kritikal termasuk penjagaan kesihatan, kewangan, pengangkutan dan perkhidmatan kerajaan, yang memerlukan pengawasan lebih ketat serta keupayaan campur tangan manusia.
• Kandungan yang dijana AI mesti dilabel, dengan tera air yang jelas untuk kandungan yang boleh disalah anggap sebagai kandungan sebenar serta pelabelan kurang ketara bagi karya kreatif seperti webtoon dan animasi.
• Syarikat AI asing yang memenuhi ambang hasil atau pengguna mesti melantik wakil tempatan di Korea Selatan.
• Penalti bagi ketidakpatuhan dihadkan kepada 30 juta won ($26,200), jauh lebih rendah berbanding denda EU yang boleh mencecah 7% daripada perolehan tahunan global.
• Undang-undang itu merangkumi tempoh kelonggaran setahun yang menumpukan pada panduan dan bukannya hukuman, serta meja bantuan khusus untuk syarikat yang memerlukan bantuan pematuhan.
• Syarikat pemula menyuarakan kebimbangan tentang beban pematuhan dan bahasa perundangan yang kabur, dengan hanya 2% melaporkan bahawa mereka mempunyai pelan pematuhan rasmi.
• Undang-undang itu bertujuan meletakkan Korea Selatan dalam kalangan tiga kuasa besar AI dunia sambil membina asas kepercayaan terhadap teknologi AI.
• Pendekatan Korea Selatan berbeza daripada EU kerana ia menumpukan pada ambang teknikal dan bukannya risiko khusus aplikasi dalam mengawal selia sistem AI canggih.
• Pelaksanaan sepenuhnya akan bermula pada Januari 2026, selepas tempoh persediaan setahun bagi perundangan bawahan dan garis panduan terperinci.