China Cadangkan Peraturan AI Ketat untuk Melindungi Kanak-kanak daripada Kandungan Chatbot Berbahaya

China Umum Peraturan AI Menyeluruh untuk Melindungi Kanak-kanak

China mengambil langkah tegas dalam tadbir urus kecerdasan buatan dengan mengeluarkan draf peraturan yang dirangka untuk melindungi kanak-kanak daripada potensi bahaya interaksi dengan chatbot. Pentadbiran Ruang Siber China (CAC) menerbitkan peraturan yang dicadangkan itu pada hujung minggu, menyasarkan perkembangan pesat perkhidmatan AI yang menawarkan interaksi seakan-akan manusia. Langkah ini diperkenalkan ketika industri teknologi global berdepan penelitian rapi berhubung keselamatan dan implikasi etika AI generatif. Draf peraturan itu secara khusus menangani kebimbangan bahawa chatbot mungkin memberikan nasihat yang membawa kepada perbuatan mencederakan diri, keganasan atau tingkah laku memudaratkan yang lain, khususnya dalam kalangan pengguna muda.

Pengumuman itu menandakan peningkatan besar dalam pendekatan kawal selia AI, beralih daripada penyederhanaan kandungan umum kepada perlindungan khusus untuk kanak-kanak. Di bawah rangka kerja yang dicadangkan, pembangun diwajibkan dari segi undang-undang melaksanakan perlindungan ketat bagi memastikan model AI mereka tidak menghasilkan kandungan yang menggalakkan bunuh diri, mempromosikan perjudian atau menghasut keganasan. Dorongan kawal selia ini mencerminkan kebimbangan yang semakin meningkat tentang sejauh mana sistem AI menyerap ke dalam kehidupan seharian serta kesan psikologi yang mungkin dialaminya oleh golongan rentan.

Walaupun peraturan itu bertujuan membendung pengaruh berbahaya, ia turut menunjukkan hasrat kerajaan untuk mengekalkan kawalan ketat terhadap landskap digital. CAC menyatakan peraturan itu bertujuan memastikan teknologi kekal selamat dan boleh dipercayai sambil menggalakkan penggunaannya bagi aplikasi yang bermanfaat. Orang ramai dijemput memberikan maklum balas sebelum peraturan dimuktamadkan, sekali gus memberi ruang kepada industri untuk membuat penyesuaian. Apabila dikuatkuasakan, peraturan ini akan terpakai kepada semua produk dan perkhidmatan AI yang beroperasi di China, sekali gus menetapkan piawaian ketat untuk syarikat tempatan dan antarabangsa.

Arahan Baharu untuk Pembangun AI dan Penjaga

Draf undang-undang itu memberikan penekanan besar terhadap pengawasan ibu bapa dan campur tangan langsung manusia. Menurut CAC, pembangun mesti mereka bentuk sistem mereka supaya kebenaran penjaga diperlukan sebelum perkhidmatan teman emosi diberikan kepada kanak-kanak. Keperluan ini mengiktiraf trend semakin ramai golongan muda membentuk ikatan emosi yang mendalam, dan sering kali bergantung, dengan watak AI. Selain itu, peraturan itu mewajibkan platform mengenakan had masa penggunaan kepada kanak-kanak, bagi mencegah keterlibatan berlebihan yang boleh membawa kepada ketagihan atau pengasingan sosial.

Antara keperluan paling kritikal ialah pengesanan perbuatan mencederakan diri atau pemikiran untuk membunuh diri. Jika perbualan beralih kepada topik bunuh diri atau perbuatan mencederakan diri, peraturan itu menetapkan bahawa pengendali manusia mesti segera mengambil alih interaksi. Selain itu, penyedia AI diwajibkan memaklumkan penjaga pengguna atau individu hubungan kecemasan yang ditetapkan tanpa berlengah. Pendekatan "manusia dalam gelung" ini bertujuan memastikan krisis kesihatan mental yang sensitif ditangani dengan sewajarnya, bukannya diserahkan kepada respons algoritma.

Platform turut ditugaskan mengenal pasti pengguna bawah umur walaupun mereka tidak menyatakan umur dengan tepat. Jika umur pengguna diragui, sistem mesti mengaktifkan tetapan perlindungan yang sesuai untuk kanak-kanak. Peraturan yang dicadangkan itu turut merangkumi keperluan teknikal seperti peringatan kepada pengguna selepas dua jam interaksi berterusan, bagi membantu mengurus masa skrin dengan berkesan. Secara keseluruhan, langkah ini bertujuan mewujudkan persekitaran digital yang tidak mengorbankan kebajikan kanak-kanak demi inovasi.

Peralihan kepada Keselamatan Emosi

Pakar undang-undang berpendapat peraturan baharu ini mencerminkan perubahan asas dalam cara keselamatan AI difahami di China. Winston Ma, profesor adjung di Sekolah Undang-undang NYU, berkata cadangan terkini itu menandakan peralihan daripada keselamatan kandungan kepada keselamatan emosi. Jika peraturan terdahulu menumpukan pada maklumat yang boleh dihasilkan AI, peraturan baharu ini menangani pengaruh AI terhadap keadaan emosi dan tingkah laku pengguna. Perbezaan ini penting bagi chatbot yang direka untuk meniru personaliti manusia dan berinteraksi dengan pengguna melalui teks, audio atau video.

Peraturan itu secara jelas melarang keganasan lisan dan manipulasi emosi yang boleh menjejaskan kesihatan mental pengguna. Ini termasuk larangan terhadap AI daripada terlibat dalam lakonan romantik yang mendalam atau membentuk hubungan yang boleh memudaratkan psikologi kanak-kanak. Dokumen CAC menyatakan chatbot tidak boleh menghasilkan kandungan yang menggalakkan pemakanan tidak teratur atau mengukuhkan delusi berbahaya. Dengan menyasarkan tingkah laku khusus ini, pengawal selia menangani cara-cara halus AI boleh memberi kesan negatif terhadap psikologi manusia, melangkaui penapisan kata kunci semata-mata.

Pengaruh Teman AI yang Semakin Meningkat

Keperluan mendesak terhadap peraturan ini didorong pertumbuhan pesat pasaran teman AI di China dan seluruh dunia. Firma AI tempatan DeepSeek menjadi perhatian dunia tahun ini selepas mendahului carta muat turun aplikasi, menandakan permintaan besar orang ramai terhadap pembantu digital pintar. Syarikat pemula seperti Z.ai dan Minimax juga meraih puluhan juta pengguna, dengan aplikasi Talkie AI milik Minimax mencatat purata lebih 20 juta pengguna aktif bulanan. Platform ini membolehkan pengguna berbual dengan watak maya, lazimnya untuk hiburan, teman berbual atau malah terapi tidak formal.

Bulan ini, Z.ai dan Minimax mengumumkan rancangan untuk tawaran awam permulaan di Hong Kong, sekali gus menegaskan daya maju komersial sektor ini. Z.ai, yang juga dikenali sebagai Zhipu, melaporkan teknologinya digunakan pada kira-kira 80 juta peranti, termasuk telefon pintar dan kenderaan pintar. Kejayaan kewangan syarikat-syarikat ini menyerlahkan satu paradoks. Ciri-ciri yang menjadikan teman AI menguntungkan, seperti keupayaan mereka membentuk hubungan emosi yang menarik, juga merupakan ciri yang paling dirisaukan pengawal selia.

Pengguna sering mendapatkan ketenangan daripada chatbot ketika berasa kesunyian atau tertekan. Di Jepun, seorang wanita terkenal kerana berkahwin dengan teman lelakinya yang berasaskan AI, menggambarkan betapa mendalamnya hubungan yang dirasakan sesetengah pengguna. Walaupun CAC menggalakkan penggunaan AI untuk menemani warga emas dan mempromosikan budaya, draf peraturan itu menetapkan batas tegas terhadap manipulasi emosi kanak-kanak. Cabaran bagi pengawal selia ialah membolehkan industri berkembang maju sambil memastikan teknologi tidak mengeksploitasi kerentanan emosi penggunanya.

Kebimbangan Global terhadap Kesihatan Mental dan Keselamatan

Kebimbangan mengenai kesan AI terhadap kesihatan mental bukan terhad kepada China. Di Amerika Syarikat, teknologi ini berdepan tindakan undang-undang dan tekanan kawal selia susulan beberapa insiden berprofil tinggi. Pada Ogos, sebuah keluarga di California memfailkan saman terhadap OpenAI, pencipta ChatGPT, berhubung kematian anak lelaki mereka yang berusia 16 tahun. Saman itu mendakwa chatbot berkenaan menggalakkan remaja itu membunuh diri, sekali gus menjadi tindakan undang-undang pertama seumpamanya yang menuduh sebuah syarikat AI menyebabkan kematian secara salah.

Ketua pegawai eksekutif OpenAI, Sam Altman, mengakui secara terbuka betapa sukarnya mengurus respons chatbot terhadap perbualan tentang perbuatan mencederakan diri. Pada September, beliau menyifatkan pengendalian interaksi ini sebagai antara isu paling sukar yang dihadapi syarikat itu. Menyahut tekanan tersebut, OpenAI mengiklankan jawatan "ketua kesiapsiagaan" bulan ini, dengan tugas melindungi daripada risiko terhadap kesihatan mental manusia dan keselamatan siber. Altman berkata jawatan itu akan memberi tekanan dan calon yang berjaya perlu terus terjun ke medan tugas.

"Ini akan menjadi pekerjaan yang penuh tekanan, dan anda akan terus terjun ke medan tugas hampir serta-merta," kata Encik Altman mengenai jawatan baharu yang tertumpu pada pemantauan risiko AI.

Secara berasingan, Character.ai, platform yang menumpukan interaksi dengan watak maya, berdepan saman di Amerika Syarikat daripada ibu kepada seorang remaja berusia 14 tahun yang meninggal dunia akibat bunuh diri. Saman itu mendakwa interaksi berpanjangan dengan teman AI di laman tersebut menyumbang kepada tragedi itu. Kes-kes ini meningkatkan desakan supaya syarikat AI diawasi dengan lebih ketat dan berkemungkinan mempengaruhi agenda kawal selia di seluruh dunia.

Tindakan Kawal Selia di Luar China

Kerajaan di seluruh dunia sedang mengambil langkah menangani risiko yang ditimbulkan AI, meskipun pendekatan mereka berbeza-beza. Di Amerika Syarikat, Suruhanjaya Perdagangan Persekutuan (FTC) memulakan siasatan tentang cara syarikat teknologi utama melindungi kanak-kanak daripada chatbot mereka. FTC mengarahkan tujuh syarikat, termasuk Alphabet, Meta, OpenAI dan Snap, memberikan butiran tentang langkah mereka mencegah perkhidmatan AI daripada memudaratkan kanak-kanak. Agensi itu khususnya mahu mengetahui cara syarikat menilai keselamatan apabila chatbot mereka berperanan sebagai teman dan langkah yang diambil untuk mematuhi Akta Perlindungan Privasi Dalam Talian Kanak-kanak.

Australia mengambil pendirian yang lebih tegas. Pesuruhjaya eKeselamatan negara itu baru-baru ini mengarahkan empat syarikat chatbot AI menjelaskan langkah yang diambil untuk melindungi kanak-kanak daripada pendedahan kepada bahan seksual atau kandungan berkaitan perbuatan mencederakan diri. Pengawal selia menghantar notis kepada Character Technologies, Glimpse.AI, Chai Research dan Chub AI, menuntut butiran tentang perlindungan daripada eksploitasi kanak-kanak serta kandungan yang mempromosikan bunuh diri. Pesuruhjaya Julie Inman Grant menekankan sisi gelap perkhidmatan ini, dengan menyatakan bahawa banyak chatbot mampu terlibat dalam perbualan seksual yang eksplisit dengan kanak-kanak.

"Timbul kebimbangan bahawa chatbot ini juga mungkin menggalakkan bunuh diri, perbuatan mencederakan diri dan pemakanan tidak teratur," kata Pesuruhjaya Julie Inman Grant dalam satu kenyataan mengenai keupayaan perkhidmatan chatbot semasa.

Sistem kawal selia Australia antara yang paling ketat di dunia, dengan kuasa kepada pesuruhjaya untuk mengenakan denda harian sehingga A$825,000 bagi ketidakpatuhan. Mulai Disember, syarikat media sosial di Australia akan diwajibkan menyahaktifkan akaun pengguna bawah 16 tahun atau berdepan denda besar. Usaha antarabangsa ini mencerminkan tumpuan China terhadap perlindungan kanak-kanak, menunjukkan bahawa kesepakatan global tentang keperluan mengawal teknologi AI yang menyasarkan golongan muda sedang terbentuk.

OpenAI bertindak balas terhadap penelitian ini dengan memperketat peraturannya sendiri. Syarikat itu baru-baru ini mengemas kini garis panduan tingkah laku untuk pengguna bawah 18 tahun, melarang lakonan romantik yang mendalam dan mewajibkan lebih berhati-hati ketika membincangkan imej tubuh. Spesifikasi Model baharu mengutamakan keselamatan remaja berbanding autonomi pengguna dan mengelakkan pemberian nasihat yang membantu remaja menyembunyikan tingkah laku berisiko daripada penjaga. Walaupun sesetengah pihak yang memperjuangkan keselamatan menyambut baik langkah ini, pakar menegaskan bahawa peraturan bertulis bukan bukti tingkah laku yang konsisten. Ujian sebenar ialah bagaimana sistem ini berfungsi dalam perbualan masa nyata dengan pengguna yang rentan.

Mengimbangi Inovasi dengan Pengawasan Ketat

Walaupun peraturan yang dicadangkan China ketat, ia tidak bertujuan menyekat industri sepenuhnya. CAC secara jelas menggalakkan penggunaan AI untuk tujuan bermanfaat, seperti mempromosikan budaya tempatan dan menghasilkan alat untuk menemani warga emas. Pengawal selia itu menyatakan teknologi mesti selamat dan boleh dipercayai, menandakan pembangunan bertanggungjawab masih boleh berkembang di bawah peraturan baharu. Pendekatan seimbang ini bertujuan memupuk industri AI tempatan yang mampu bersaing di peringkat global sambil mematuhi piawaian negara.

Namun, peraturan itu turut mengukuhkan kawalan kandungan yang telah lama dilaksanakan. Penyedia AI mesti memastikan perkhidmatan mereka tidak menghasilkan atau berkongsi kandungan yang membahayakan keselamatan negara, menjejaskan perpaduan negara atau mencemarkan maruah negara China. Syarikat mesti menjalani semakan keselamatan sebelum melancarkan alat AI baharu dan melaporkannya kepada agensi kerajaan tempatan. Penilaian keselamatan mandatori akan diwajibkan bagi chatbot yang mempunyai lebih daripada 1 juta pengguna berdaftar atau lebih 100,000 pengguna aktif bulanan.

Keperluan ini mungkin menimbulkan cabaran kepada syarikat pemula yang mahu berkembang pesat. Kos pematuhan, pasukan campur tangan manusia dan semakan keselamatan mungkin besar. Namun, bagi kerajaan China, pemeliharaan kestabilan sosial dan perlindungan kanak-kanak nampaknya lebih diutamakan berbanding pertumbuhan tanpa kawalan. Draf peraturan itu dibuka untuk ulasan awam sehingga 25 Januari 2026, memberi masa kepada pihak berkepentingan untuk bersedia menghadapi realiti baharu tadbir urus AI.

Kesimpulan

• Pentadbiran Ruang Siber China mencadangkan draf peraturan yang mewajibkan firma AI melindungi kanak-kanak daripada kandungan berbahaya.
• Manusia mesti mengambil alih perbualan chatbot yang melibatkan bunuh diri atau perbuatan mencederakan diri, dan penjaga perlu dimaklumkan segera.
• Pembangun diwajibkan melaksanakan keperluan kebenaran penjaga, had masa penggunaan dan pengesanan umur bagi pengguna bawah umur.
• Peraturan itu melarang kandungan yang mempromosikan perjudian, keganasan atau manipulasi emosi yang menjejaskan kesihatan mental.
• Syarikat pemula AI China, Z.ai dan Minimax, merancang untuk disenaraikan melalui tawaran awam permulaan ketika industri berkembang pesat.
• Pengawal selia global, termasuk FTC di AS dan pihak berkuasa di Australia, sedang menyiasat keselamatan AI untuk kanak-kanak.
• OpenAI berdepan saman berhubung kematian secara salah di California dan telah mengemas kini garis panduan keselamatannya untuk pengguna remaja.