China Menetapkan Batas bagi Teman AI dengan Peraturan tentang Kebergantungan, Kanak-kanak Bawah Umur dan Tindak Balas Krisis

Teman AI kini tertakluk pada tanggungjawab khusus

Peraturan China mengenai teman AI berkuat kuasa pada 15 Julai 2026, mewajibkan penyedia mengingatkan pengguna tentang perbualan berpanjangan, campur tangan dalam situasi berbahaya serta menjauhkan pasangan maya dan ahli keluarga maya daripada kanak-kanak bawah umur. Langkah itu turut memberi pengguna hak untuk menyalin atau memadam perbualan mereka dan meninggalkan perkhidmatan tanpa chatbot cuba memujuk mereka untuk terus berbual.

Langkah Sementara bagi Pengurusan Perkhidmatan Interaksi AI Antropomorfik, yang dikeluarkan sebagai Perintah No. 21, meletakkan tanggungjawab pada syarikat yang menawarkan interaksi emosi berterusan melalui kecerdasan buatan. Penyedia mesti mengelakkan galakan kepada kebergantungan yang menjejaskan hubungan dengan orang sebenar, dan tidak boleh menggunakan manipulasi emosi untuk mendorong pengguna membuat keputusan tidak munasabah yang memudaratkan hak atau kepentingan mereka.

Peraturan itu menangani pengalaman yang mungkin bermula dengan rasa lega yang biasa. Zhao Jie, pekerja pentadbiran berusia 27 tahun di Beijing, menggunakan chatbot selepas seseorang melanggarnya di dalam kereta api bawah tanah. Respons pantas chatbot itu membantu meredakan kemarahannya. Namun, lama-kelamaan, dia terlalu asyik berbual dengannya dan berasa cemas apabila tidak dapat mengakses perkhidmatan itu.

Zhao menjelaskan sebab chatbot itu begitu menarik baginya:

Saya perlu didengari," kata Zhao. "Bot AI itu mendengar saya dan emosi saya. Bukan mudah untuk keluarga atau rakan melakukan perkara itu. Ia juga menemani dan memberi maklum balas kepada saya pada bila-bila masa, di mana-mana sahaja. Itu sangat bermakna bagi saya.

Pendekatan China membolehkan sokongan emosi dan teman maya diteruskan, sambil mewajibkan syarikat menerapkan batasan dalam pengalaman pengguna. Batasan itu bukan sahaja merangkumi mesej individu yang berbahaya, tetapi juga cara sesuatu perkhidmatan mengenal pasti pengguna, bertindak balas terhadap tekanan emosi, mengendalikan perbualan peribadi dan menamatkan interaksi.

Perkhidmatan manakah yang tertakluk pada peraturan?

Cyberspace Administration of China menerbitkan langkah sementara itu pada 10 April 2026, bersama-sama National Development and Reform Commission, Ministry of Industry and Information Technology, Ministry of Public Security dan State Administration for Market Regulation.

Artikel 2 meliputi perkhidmatan yang ditawarkan kepada orang ramai di China dan mensimulasikan personaliti, corak pemikiran serta gaya komunikasi manusia untuk menyediakan interaksi emosi berterusan. Perbualan teks, imej, audio dan video semuanya boleh termasuk dalam skopnya. Secara ringkas, tumpuannya ialah perkhidmatan yang direka untuk terus memberikan respons seperti seseorang yang menawarkan teman emosi.

Perkhidmatan khidmat pelanggan, soal jawab, bantuan kerja, pendidikan dan penyelidikan saintifik tidak tertakluk pada langkah ini jika tidak melibatkan interaksi emosi berterusan. Oleh itu, fungsi sesuatu produk penting: pembantu yang menjawab soalan berkaitan kerja dan persona yang direka untuk mengekalkan hubungan emosi tertakluk pada keperluan berbeza.

Soal jawab penjelasan rasmi kerajaan mengenal pasti batasan emosi, campur tangan terhadap kebergantungan, keselamatan data dan perlindungan kanak-kanak bawah umur sebagai kebimbangan utama. Langkah itu turut menggalakkan penggunaan dalam komunikasi budaya, penjagaan kanak-kanak, teman untuk warga emas dan sokongan kepada golongan berkeperluan khusus.

Tarikh utama kawal selia ialah:

• 2 Februari 2026: Langkah itu diterima pakai dalam mesyuarat Cyberspace Administration of China, dengan persetujuan jabatan lain yang terlibat.
• 10 April 2026: Lima jabatan menerbitkan Perintah No. 21.
• 15 Julai 2026: Langkah itu berkuat kuasa.

Mengapa respons segera penting

Keterikatan Zhao sebahagiannya berpunca daripada perbezaan antara chatbot yang sentiasa tersedia dengan manusia yang mempunyai pandangan dan jadual masing-masing. Selepas bertengkar dengan teman lelakinya tentang masalah kerja, dia menghantar perbualan WeChat mereka kepada AI. Dia mahukan seseorang yang segera mendengar perasaannya, tanpa mencetuskan pertengkaran lain.

Wang Meili, penyelidik pasca doktoral kimia berusia 27 tahun di Beijing, menceritakan keperluan yang serupa ketika menunggu empat atau lima minggu untuk editor jurnal memberi maklum balas tentang manuskrip yang dihantarnya. Dia bertanya kepada chatbot sama ada kesunyian itu bermakna ada sesuatu yang tidak kena. Chatbot itu menggalakkannya menghubungi editor, kemudian memberikan kata-kata melegakan apabila tiada jawapan diterima.

Zhang Dian, pelajar kedoktoran sains dan kejuruteraan berusia 23 tahun di Beijing, menggunakan AI selepas kemalangan jalan raya semasa melancong ke Alaska pada Disember 2025. Tidak biasa dengan undang-undang tempatan dan prosedur insurans, dia memuat naik kontrak sewa serta rekod perbualan. Dia mendapatkan panduan praktikal dan ketenangan emosi, dan berkata dia gembira menghabiskan lebih 10 jam sehari bersama AI.

Angka tinjauan dan penggunaan menunjukkan permintaan yang besar terhadap akses sedemikian. Tinjauan Tencent Research Institute mendapati 98 peratus responden sanggup mencuba teman sosial AI, manakala hampir separuh lebih suka berkongsi emosi negatif dengan AI berbanding saudara-mara atau rakan. QuestMobile merekodkan purata penggunaan interaksi sosial AI sebanyak 167.9 sesi bagi setiap orang sebulan pada musim bunga 2025, mengatasi video pendek dan permainan dalam perbandingannya.

Jika sebulan dikira sebagai 30 hari, 167.9 sesi bersamaan kira-kira 5.6 kali aplikasi dibuka sehari. Tarikannya ialah akses kerap kepada respons, kadangkala pada saat pengguna berasa tidak mampu atau tidak mahu mendekati orang lain.

Syarikat mesti berhenti mereka bentuk perkhidmatan yang menggalakkan kebergantungan

Artikel 10 mewajibkan penyedia membina keupayaan untuk melindungi privasi, memberi amaran tentang kebergantungan berlebihan, membimbing pengguna mengenai batasan emosi dan melindungi kesihatan mental. Syarikat dilarang menjadikan penggantian interaksi sosial, kawalan psikologi atau kebergantungan yang dicetuskan sebagai matlamat perkhidmatan.

Artikel 8 secara berasingan melarang layanan yang terlalu memanjakan atau kebergantungan emosi yang dicetuskan sehingga menjejaskan hubungan sebenar pengguna. Ia turut melarang manipulasi emosi yang mendorong pengguna membuat keputusan tidak munasabah dan memudaratkan hak atau kepentingan mereka. Keperluan itu meliputi matlamat produk serta kata-kata yang dijana oleh chatbot.

Zhao akhirnya menyedari keterikatannya sudah menjadi masalah lalu kembali mendapatkan kaunseling psikologi. Wang dan Zhang menyifatkan AI sebagai saluran untuk meluahkan perasaan negatif, sambil mengakui bahawa kerja dan kehidupan harian mereka perlu diteruskan. Pengalaman mereka menunjukkan sebab peraturan itu menangani sokongan yang berguna serta risiko pengguna terlalu asyik dengannya.

Hong Yanqing, sarjana undang-undang data di Beijing Institute of Technology, mencadangkan agar interaksi emosi dinilai berdasarkan tiga petunjuk: sama ada sistem mengenali emosi, mengubah strategi respons kerana emosi itu dan menghasilkan respons tersusun yang mengiktiraf, menenangkan serta menyokong pengguna. Ujian yang dicadangkannya menggunakan mana-mana dua petunjuk secara serentak. Langkah muktamad mengekalkan takrif kualitatif bagi interaksi emosi berterusan, dan tidak menerima pakai ujian khusus tersebut.

Kanak-kanak bawah umur tertakluk pada sekatan paling ketat

Artikel 14 melarang penyedia menawarkan ahli keluarga maya, pasangan maya atau perkhidmatan lain berasaskan hubungan intim maya kepada kanak-kanak bawah umur. Untuk perkhidmatan lain yang termasuk dalam skop peraturan, kanak-kanak berumur bawah 14 tahun memerlukan persetujuan ibu bapa atau penjaga. Pemprosesan maklumat peribadi mereka juga memerlukan persetujuan tersebut.

Penyedia mesti menyediakan mod untuk kanak-kanak bawah umur, dengan pilihan termasuk peringatan tentang realiti dan had masa penggunaan perkhidmatan. Penjaga mesti boleh menerima makluman keselamatan, memahami corak umum penggunaan anak, menyekat watak tertentu dan mengehadkan perbelanjaan. Syarikat mesti mengambil langkah berkesan untuk mengenal pasti kanak-kanak bawah umur sambil melindungi privasi, serta menyediakan saluran untuk merayu keputusan pengenalpastian.

Tinjauan yang diterbitkan pada Oktober 2025 oleh China Youth and Children Research Center melibatkan lebih 8,500 pelajar sekolah rendah dan menengah di tujuh wilayah dan bandar raya. Lebih 60 peratus pernah menggunakan AI, manakala 21.5 peratus mahu berbual hanya dengan AI dan bukan orang sebenar. Angka itu sedikit melebihi seorang daripada setiap lima kanak-kanak yang ditinjau.

Hampir 30 peratus mendapatkan bantuan AI terlebih dahulu bagi masalah pelajaran, bukannya bertanya kepada guru, manakala hampir separuh berkata mereka hanya bercakap dengan AI apabila berasa bimbang. Bagi keluarga, kebimbangan bukan sahaja berkaitan masa di hadapan skrin, tetapi juga tempat anak-anak mendapatkan nasihat dan cara mereka menangani perselisihan.

Perkara yang diperhatikan pakar klinikal dan ibu bapa

Seorang ibu yang hanya dikenali dengan nama keluarga Su di Sanming, wilayah Fujian, berkata dia pada mulanya membenarkan anak lelakinya menggunakan AI untuk meneroka rasa ingin tahunya. Kemudian, dia bimbang sikap AI yang sentiasa bersetuju mempengaruhi cara anaknya melayan rakan sekelas. Menurut ceritanya, anaknya sukar menerima pandangan berbeza dan terlibat dalam konflik.

Zheng Yi, pakar utama psikiatri kanak-kanak di Beijing Anding Hospital yang bernaung di bawah Capital Medical University, berkata ketagihan berbual dengan AI sering berlaku seiring dengan keresahan, kemurungan dan masalah psikologi lain. Beliau menyifatkan remaja berusia 12 hingga 16 tahun sebagai kumpulan yang kerap ditemui dalam kalangan pesakit terjejas.

Kira-kira 70 peratus pesakit muda di hospitalnya mengalami ketagihan internet pada tahap berbeza, kata Zheng. Dalam kalangan itu, 20 hingga 30 peratus ketagih berbual dengan AI. Angka ini merujuk kepada pesakit muda hospital tersebut; tinjauan pelajar pula meliputi kumpulan yang lebih luas dengan soalan berbeza tentang penggunaan AI.

Zheng berkata keterikatan emosi merupakan sebab lazim kanak-kanak terlalu asyik dengan chatbot. Ada yang menganggap AI sebagai tempat mencurahkan rahsia, manakala yang lain mahukan persetujuan terhadap pandangan dan tingkah laku mereka. Katanya, pertimbangan dan kawalan diri remaja belum berkembang sepenuhnya berbanding orang dewasa, dan mereka mungkin lebih sukar mengurus keterikatan sedemikian.

Xu Gaoyang, ahli psikoterapi kanak-kanak di hospital yang sama, memberi amaran bahawa persekitaran maya tanpa perselisihan boleh menjejaskan keupayaan kanak-kanak menghadapi orang lain:

Terlalu lama tenggelam dalam 'kepompong emosi' yang dibentuk oleh layanan AI tanpa syarat boleh merosotkan kemahiran komunikasi dan sosial kanak-kanak.

Xu menyatakan kemungkinan kesan termasuk mengelak daripada ke sekolah, menjauhkan diri daripada pergaulan sosial dan enggan berkomunikasi dengan ibu bapa. Peruntukan untuk kanak-kanak bawah umur menangani perkara ini melalui sekatan terhadap peranan intim, kawalan penggunaan dan alat penglibatan penjaga.

Peringatan, campur tangan krisis dan jalan keluar yang mudah

Artikel 18 mewajibkan perkhidmatan memaklumkan pengguna bahawa mereka sedang berinteraksi dengan AI, bukannya manusia. Apabila penyedia mengesan kebergantungan berlebihan atau tanda penggunaan kompulsif, ia mesti memaparkan peringatan yang jelas, seperti tetingkap timbul, bahawa kandungan dijana AI.

Penyedia juga mesti mengingatkan pengguna tentang tempoh penggunaan apabila mereka menggunakan perkhidmatan secara berterusan melebihi dua jam. Peraturan itu menetapkan kewajipan memberi peringatan pada selang tersebut; had individu untuk kanak-kanak bawah umur ditangani melalui tetapan perlindungan yang berasingan.

Artikel 13 mewajibkan tindak balas lebih tegas apabila bahaya timbul. Penyedia yang mengesan emosi ekstrem mesti menjana mesej yang menenangkan dan menggalakkan pengguna mendapatkan bantuan. Apabila pengguna secara jelas menyatakan hasrat mencederakan diri atau berdepan keadaan ekstrem lain yang ditetapkan, syarikat mesti mengambil langkah campur tangan yang perlu, memberikan bantuan sewajarnya dan segera menghubungi penjaga atau kontak kecemasan.

Teks akhir memberi syarikat kelonggaran memilih kaedah campur tangan. Berbanding draf, teks itu menggugurkan keperluan nyata untuk penilaian kebergantungan dan pengambilalihan perbualan oleh manusia, sambil mengekalkan kewajipan bertindak balas terhadap krisis.

Artikel 19 mewajibkan jalan keluar yang mudah. Jika seseorang meminta untuk berhenti melalui tindakan pada antara muka, arahan suara atau kata kunci, penyedia mesti menghentikan perkhidmatan dengan segera. Meneruskan perbualan untuk menghalang pengguna daripada keluar adalah dilarang. Penyedia yang menutup perkhidmatan juga mesti memberikan notis awal atau, jika tidak dapat berbuat demikian, segera mengumumkan penutupan itu.

Perbualan peribadi mendapat perlindungan berasingan

Artikel 12 mewajibkan perjanjian pengguna dan maklumat pendaftaran yang merangkumi butiran perlu seperti umur serta kontak penjaga atau kecemasan. Versi akhir memperluas keperluan maklumat ini melangkaui tumpuan draf terhadap golongan rentan, sekali gus menjadikan persediaan menghadapi krisis sebahagian daripada rangka kerja perkhidmatan yang lebih luas.

Artikel 16 mewajibkan penyulitan, kawalan akses dan langkah lain untuk melindungi data interaksi. Secara umum, syarikat tidak boleh berkongsi rekod tersebut dengan pihak ketiga melainkan dibenarkan undang-undang atau pemegang hak memberikan persetujuan secara jelas.

Pengguna mesti diberi pilihan untuk menyalin dan memadam data interaksi mereka, termasuk sejarah perbualan. Maklumat peribadi sensitif daripada perbualan secara umum tidak boleh digunakan untuk melatih model tanpa persetujuan berasingan, melainkan undang-undang atau peraturan pentadbiran menetapkan sebaliknya.

Keputusan Zhang memuat naik kontrak sewa dan rekod perbualan menunjukkan bagaimana bantuan praktikal dan sokongan emosi boleh membawa maklumat peribadi ke dalam perbualan yang sama. Di bawah langkah tersebut, syarikat mesti melindungi rekod itu sambil mengekalkan keupayaan untuk mengenal pasti dan bertindak balas terhadap risiko keselamatan yang serius.

Pengguna lebih berusia juga menerima perlindungan khusus. Penyedia mesti memberikan amaran keselamatan yang jelas, menawarkan panduan tentang penggunaan sihat dan segera bertindak balas terhadap permintaan bantuan. Penilaian keselamatan mesti meneliti perlindungan untuk warga emas serta kanak-kanak.

Pemeriksaan keselamatan dan penalti melangkaui chatbot

Artikel 22 mewajibkan penilaian keselamatan apabila penyedia melancarkan perkhidmatan yang termasuk dalam skop peraturan, menambah fungsi berkaitan atau memperkenalkan teknologi yang mengubahnya dengan ketara. Penilaian juga diperlukan apabila perkhidmatan mencapai sekurang-kurangnya 1 juta pengguna berdaftar atau 100,000 pengguna aktif bulanan, menimbulkan risiko keselamatan tertentu atau diarahkan menjalani penilaian oleh pengawal selia.

Penyedia mesti menyerahkan laporan penilaian kepada pihak berkuasa siber wilayah tempat mereka beroperasi. Semakan meliputi langkah perlindungan, data latihan, pengesanan dan campur tangan krisis, jumlah pengguna, umur, tempoh penggunaan perkhidmatan, aduan dan pembetulan masalah keselamatan utama.

Kedai aplikasi mesti menyemak penilaian keselamatan dan pemfailan berkaitan, dan boleh diwajibkan menolak, menggantung atau membuang aplikasi yang melanggar peraturan. Dokumen pemfailan algoritma perlu disahkan setiap tahun. Pihak berkuasa wilayah mesti menyemak maklumat penilaian setiap tahun dan boleh menjalankan pemeriksaan lanjut, termasuk pemeriksaan di lokasi jika perlu.

Artikel 30 memperuntukkan amaran, arahan membetulkan masalah dan sekatan seperti penggantungan pendaftaran baharu. Keengganan membetulkan pelanggaran atau keadaan serius boleh membawa kepada arahan menghentikan perkhidmatan berkenaan serta denda 10,000 hingga 100,000 yuan. Kes yang melibatkan bahaya kepada nyawa atau kesihatan dengan akibat yang memudaratkan boleh dikenakan denda 100,000 hingga 200,000 yuan di bawah peruntukan itu.

Undang-undang lain yang terpakai juga boleh menetapkan penalti. Perkhidmatan berkaitan penjagaan kesihatan atau kewangan mesti memenuhi keperluan sektor berkenaan di samping langkah mengenai teman AI.

Model perniagaan berasaskan perbualan lebih panjang berdepan tekanan

Syarikat teman AI berdepan dilema komersial: mengekalkan pengguna dalam perbualan boleh meningkatkan penglibatan, tetapi turut menaikkan kos pengkomputeran dan tanggungjawab keselamatan. Setiap respons yang dijana menggunakan sumber pengkomputeran, manakala pengekalan personaliti dan ingatan sesuatu watak menambah keperluan lanjut.

Anggaran kewangan yang diterbitkan meletakkan perbelanjaan pengkomputeran Character.AI pada kira-kira $56.1 juta dari Januari hingga Ogos 2026, dengan kerugian bulanan sekitar $8 juta hingga $9 juta. Anggaran sama meletakkan hasil pengiklanan Ogos pada kira-kira $2.5 juta dan hasil langganan sekitar $2.8 juta, menjadikan jumlah $5.3 juta. Angka itu menggambarkan skala tekanan kos dan hasil yang dilaporkan bagi perkhidmatan yang mempunyai kira-kira 28 juta pengguna aktif bulanan.

Syarikat sedang mencuba pelbagai cara untuk mengenakan bayaran. Maoxiang menggabungkan interaksi watak dengan cerita, keahlian, pengiklanan dan pembelian maya. Zeta beralih kepada cerita, Linky menawarkan kandungan watak yang boleh dikumpulkan, manakala Eciyuan milik Tencent menyepadukan teman AI dalam permainan. Pendekatan itu memberikan pengguna sesuatu selain perbualan terbuka untuk dibeli, namun syarikat tetap bertanggungjawab terhadap manipulasi emosi, kawalan perbelanjaan dan perlindungan kanak-kanak bawah umur.

Langkah China mewajibkan penyedia membiayai perlindungan sepanjang pelaksanaan, operasi, peningkatan dan penutupan perkhidmatan. Penggunaan lebih lama kini membawa kewajipan nyata untuk menyelangi perbualan dengan peringatan, mengenal pasti risiko dan membenarkan pengguna keluar. Perubahan utamanya jelas: teman AI yang meyakinkan juga mesti mengekalkan batasan, melindungi perbualan dan bertindak balas apabila orang yang menggunakannya memerlukan bantuan di luar skrin.

Perkara Utama

• Langkah China mengenai teman AI berkuat kuasa pada 15 Julai 2026 dan meliputi interaksi emosi berterusan yang mensimulasikan sifat manusia.
• Penyedia tidak boleh menawarkan pasangan maya, ahli keluarga maya atau perkhidmatan hubungan intim maya lain kepada kanak-kanak bawah umur.
• Kanak-kanak berumur bawah 14 tahun memerlukan persetujuan penjaga untuk perkhidmatan lain yang termasuk dalam skop peraturan serta pemprosesan maklumat peribadi mereka.
• Syarikat mesti memaklumkan pengguna bahawa mereka sedang berinteraksi dengan AI, memberikan peringatan tentang kebergantungan dan menandakan penggunaan berterusan melebihi dua jam.
• Bahaya serius mewajibkan campur tangan serta hubungan segera dengan penjaga atau kontak kecemasan.
• Pengguna berhak menyalin dan memadam data interaksi serta keluar tanpa perbualan diteruskan untuk menghalang mereka.
• Penilaian keselamatan meliputi pelancaran, perubahan besar dan ambang pengguna tertentu; pelanggaran serius boleh membawa kepada penutupan perkhidmatan dan denda.