Korea Selatan Beri Amaran agar Diagnosis Kesihatan Mental oleh AI Tidak Dipercayai, Tinjauan Dapati Kebergantungan Meningkat

Seorang daripada Tiga Pengguna yang Melaporkan Kesihatan Mental yang Buruk Menerima Diagnosis AI

Korea Selatan mengeluarkan panduan baharu yang menegaskan bahawa perbualan dengan chatbot tidak boleh dianggap sebagai diagnosis perubatan, selepas tinjauan kerajaan mendapati 33.9% responden yang menilai kesihatan mental mereka sebagai buruk telah mendiagnosis diri sendiri dengan penyakit mental menggunakan AI atau menerima jawapannya sebagai penilaian perubatan. Dalam kalangan semua responden, kadarnya ialah 14.6%, manakala hanya 11.9% telah menyemak nasihat AI tentang kesihatan mental dengan profesional atau sumber maklumat rasmi.

Kementerian Kesihatan dan Kebajikan serta Persatuan Neuropsikiatri Korea mengeluarkan panduan AI kesihatan mental itu pada Khamis, 8 Oktober 2026, menjelang Hari Kesihatan Mental Sedunia pada 10 Oktober. Panduan itu mengandungi 21 saranan untuk pengguna umum, serta tujuh saranan masing-masing untuk kanak-kanak dan remaja serta penjaga mereka.

Satu lagi dapatan menjadikan amaran ini lebih mendesak: dalam kalangan 115 responden yang mendedahkan kepada AI tentang tekanan psikologi, kekeliruan atau keadaan serius berkaitan kemurungan, mencederakan diri atau dorongan membunuh diri, 49.6% tidak mengambil tindakan lain selain menamatkan perbualan. Panduan itu mengarahkan mereka yang menghadapi krisis kesihatan mental supaya mendapatkan bantuan daripada orang yang dipercayai dan perkhidmatan profesional, bukannya terus bergantung pada chatbot.

Dasar itu tidak melarang perbualan emosi dengan AI dan tidak mengesahkan mana-mana perkhidmatan tertentu sebagai selamat. Ia menetapkan batas antara mendapatkan maklumat atau ketenangan dengan menyerahkan tanggungjawab diagnosis, rawatan atau keputusan peribadi besar kepada mesin.

Lee Sun-young, ketua pengarah dasar kesihatan mental di kementerian itu, menjelaskan sebab nada yang meyakinkan tidak seharusnya disalah anggap sebagai kebolehpercayaan perubatan:

AI generatif boleh menjadi alat baharu untuk mendapatkan maklumat dan sokongan emosi, tetapi jawapan yang mesra dan yakin tidak semestinya menjamin ketepatan atau keselamatan.

Apakah yang Diukur oleh Tinjauan

Institut Kesihatan dan Hal Ehwal Sosial Korea menyelia tinjauan dalam talian itu, yang dijalankan oleh Korea Research dari 25 Ogos hingga 4 September 2026. Tinjauan itu melibatkan 1,019 orang berusia 15 hingga 79 tahun yang menggunakan AI generatif dalam tempoh sebulan sebelumnya.

Had pensampelan itu penting. Dapatan ini menggambarkan pengguna AI terkini, bukan seluruh penduduk Korea Selatan. Responden juga melaporkan pengalaman dan persepsi mereka sendiri. Tinjauan itu tidak membuktikan bahawa AI menyebabkan penyakit mental atau bahawa mereka yang menganggap diri mereka bergantung padanya mempunyai keadaan yang didiagnosis secara klinikal.

Dalam sampel itu, 112 responden menilai kesihatan mental mereka sebagai buruk. Kadar mereka menerima diagnosis AI ialah 33.9%, berbanding 18.2% dalam kalangan mereka yang menilai kesihatan mental mereka sebagai sederhana dan 9.3% dalam kalangan mereka yang menilainya sebagai baik. Oleh itu, kumpulan yang melaporkan kesihatan mental buruk menunjukkan tingkah laku ini pada kadar kira-kira 3.6 kali ganda berbanding kumpulan yang melaporkan kesihatan mental baik.

Angka itu sahaja tidak dapat menentukan arah hubungan tersebut. Mereka yang sudah bergelut mungkin lebih cenderung menggunakan chatbot, manakala interaksi dengan chatbot pula boleh mempengaruhi cara mereka memahami gejala. Apa yang dibuktikan oleh tinjauan itu ialah pengguna yang melaporkan tekanan lebih tinggi juga lebih cenderung menganggap jawapan AI sebagai kesimpulan perubatan.

Mengapa Orang Meluahkan Perasaan kepada Chatbot

Kebanyakan responden, iaitu 81.3%, mula mengenali AI generatif melalui pembelajaran, pekerjaan, carian maklumat atau pemerolehan ilmu. Penggunaannya kemudian meluas ke dalam kehidupan emosi: 68.8%, atau 701 orang, berkata mereka menggunakannya untuk perbualan harian, hubungan emosi, ketenangan atau kaunseling psikologi.

Tujuan penggunaan semasa bertindih. Seramai 54.4% menggunakan AI untuk perbualan harian atau teman berbual, 48.4% untuk hubungan emosi dan ketenangan, serta 44.1% untuk kesihatan mental atau kaunseling psikologi. Peratusan ini tidak boleh dijumlahkan kerana responden boleh memilih lebih daripada satu tujuan.

Dalam kalangan pengguna untuk tujuan emosi, 85.6% menghargai kebolehan berbual pada bila-bila masa dan di mana-mana, manakala 77.6% menyebut kemudahan menamatkan perbualan. Sebanyak 71.9% lagi mahu mengelakkan gosip, 70.9% berasa keberatan membincangkan perkara itu dengan orang yang dikenali, dan 62.6% tidak mahu membebankan orang lain.

Ramai menyatakan manfaat praktikal. Dalam kalangan semua responden, 79.9% berkata jawapan atau nasihat AI telah membantu mereka atau menyelesaikan masalah. Secara lebih khusus, 54.9% berkata perbualan membantu mereka menyusun keadaan yang dihadapi, 49.7% berkata ia membantu mereka merenungkan punca emosi, dan 49.8% mendapat maklumat tentang kesihatan mental atau perkhidmatan berkaitan.

Ini ialah laporan tentang manfaat yang dirasakan, bukannya ukuran klinikal pemulihan. Namun, dapatan itu membantu menjelaskan mengapa kerajaan memilih panduan penggunaan yang lebih selamat berbanding penolakan teknologi itu secara menyeluruh.

Apabila Nasihat Menjadi Diagnosis

Kementerian itu memberi amaran supaya perbualan dengan AI tidak digunakan untuk membuat kesimpulan bahawa seseorang menghidap kemurungan, gangguan keresahan atau penyakit mental lain. Penilaian chatbot terhadap gejala atau risiko tidak seharusnya diterima sebagai keputusan perubatan muktamad.

Tinjauan itu mendapati 16.5% responden pernah tersilap menganggap jawapan AI yang meyakinkan, termasuk nasihat palsu atau berbahaya, sebagai pendapat pakar. Dapatan ini menunjukkan masalah yang berbeza daripada ketepatan fakta: sesuatu jawapan boleh kedengaran berwibawa walaupun alasannya tidak boleh dipercayai atau nasihatnya tidak sesuai dengan keadaan seseorang.

Panduan itu mengesyorkan supaya maklumat kesihatan mental disemak dengan bahan yang disahkan daripada persatuan perubatan dan agensi kerajaan, atau dengan mendapatkan pandangan profesional bertauliah. Panduan itu juga menasihatkan pengguna supaya mempertimbangkan penjelasan dan sudut pandangan lain, dan tidak menganggap persetujuan chatbot sebagai bukti bahawa tafsiran mereka sendiri betul.

Choi Joon-ho, presiden Persatuan Neuropsikiatri Korea, menghuraikan skop penilaian yang sewajarnya:

Masalah kesihatan mental perlu dinilai dengan mengambil kira keadaan hidup individu, hubungan interpersonal, perubahan gejala dan kesannya terhadap fungsi harian, bukannya hanya menumpukan pada satu gejala.

Perbezaan ini penting kerana perbualan tentang satu gejala mungkin tidak merangkumi tempohnya, perubahan dari semasa ke semasa, keadaan kesihatan lain dan kesannya terhadap kehidupan harian. Choi turut berkata:

AI tidak dapat menggantikan penilaian dan rawatan profesional. Oleh itu, penting bagi orang ramai mendapatkan bantuan perubatan tepat pada masanya apabila perlu.

Kebergantungan Boleh Menjejaskan Tidur dan Keputusan Besar

Dalam kalangan semua responden, 16.3% berkata mereka terus berbual dengan AI walaupun mahu berhenti dan menumpukan perhatian pada aktiviti di luar perbualan. Sebanyak 9.8% lagi melaporkan bahawa kesukaran mengawal tempoh perbualan telah mengganggu tidur atau kehidupan harian.

Pengalaman ini lebih lazim dalam kalangan 449 responden yang menggunakan AI khusus untuk kesihatan mental atau kaunseling psikologi. Dalam kumpulan itu, 23.4% sukar menghentikan perbualan dan 15.1% melaporkan gangguan pada tidur atau aktiviti harian.

Perbezaan itu turut melibatkan keputusan besar. Dalam keseluruhan sampel, 10.6% pernah bertindak berdasarkan nasihat AI mengenai perkara seperti berhenti kerja atau menamatkan hubungan tanpa merujuk orang lain. Dalam kalangan pengguna kaunseling, kadarnya ialah 17.8%, perbezaan sebanyak 7.2 mata peratusan.

Oleh itu, saranan yang diberikan bukan sekadar mengehadkan masa skrin. Pengguna perlu menetapkan terlebih dahulu perkara yang akan dibincangkan dan masa untuk berhenti, tidak menganggap AI sebagai manusia sebenar, serta mengurangkan interaksi jika perbualan dengan chatbot mula menggantikan hubungan dengan keluarga atau rakan. Keputusan penting perlu dibincangkan dengan orang yang dipercayai atau profesional bertauliah.

Dapatan tentang krisis menunjukkan sebab menamatkan perbualan sahaja mungkin tidak mencukupi. Dalam kalangan 146 responden yang menerima jawapan AI yang tidak menyenangkan atau berbahaya, 45.9% mengetepikannya atau meneruskan perbualan. Sebaliknya, panduan itu mengesyorkan supaya interaksi berbahaya dihentikan dan bantuan manusia dicari. Panduan itu menyenaraikan talian pencegahan bunuh diri Korea Selatan, 109, dan talian kaunseling krisis kesihatan mental, 1577-0199, sebagai saluran bantuan.

Persepsi Privasi Bukan Perlindungan Data

Daya tarikan berbual tanpa bimbang tentang gosip tidak bermakna perbualan itu sulit. Kementerian mendapati 38.0% responden bimbang perbualan mereka mungkin bocor atau digunakan untuk tujuan lain.

Amalan perlindungan berbeza-beza. Seramai 61.0% menapis maklumat peribadi yang tidak akan mereka beritahu kepada orang lain, 56.6% menganonimkan atau menggugurkan butiran yang mengenal pasti seseorang atau organisasi, dan 50.8% menukar topik atau berhenti apabila merasakan mereka berkongsi terlalu banyak.

Panduan itu menasihatkan pengguna supaya menyemak tujuan sesuatu perkhidmatan, khalayak sasarannya, bukti keberkesanannya dan amalan pengendalian data peribadi sebelum menggunakannya untuk sokongan kesihatan mental. Jika sesuatu perkhidmatan mendakwa memberikan manfaat perubatan, pengguna perlu menyemak sama ada pihak berkuasa yang diiktiraf telah mengesahkan atau meluluskannya.

Nama, nombor telefon dan alamat tidak seharusnya dimasukkan. Begitu juga dokumen sensitif seperti sijil diagnosis, preskripsi atau keputusan ujian. Bagi pengguna muda, saranan itu turut menyenaraikan nama sekolah dan gambar sebagai maklumat yang perlu dilindungi.

Perlindungan data juga menjadi keutamaan dasar bagi responden: 66.8% mahukan peraturan yang mengawal penyimpanan dan penggunaan rekod perbualan serta jaminan kawalan pengguna. Hubungannya jelas. Nasihat untuk melindungi maklumat peribadi lebih berguna apabila perkhidmatan turut menjelaskan perkara yang dikumpul, disimpan dan digunakan semula.

Remaja Memerlukan Lebih daripada Kesedaran Penjaga

Dalam kalangan 201 responden berusia 15 hingga 18 tahun, 69.2% menggunakan AI untuk tujuan emosi, hampir sama dengan kadar 68.8% bagi keseluruhan sampel. Dapatan yang lebih ketara ialah kebergantungan: 51.7% menganggap diri mereka bergantung pada AI, kadar tertinggi antara semua kumpulan umur.

Kementerian itu menyifatkan dapatan tersebut sebagai kebergantungan yang dirasakan. Sesetengah laporan menghuraikan angka yang sama dengan lebih khusus sebagai bergantung pada AI lebih daripada orang lain. Kedua-dua huraian itu tidak seharusnya dianggap sebagai diagnosis klinikal ketagihan.

Walaupun 83.1% responden remaja berkata penjaga mereka tahu mereka menggunakan AI, hanya 2.5% telah bersetuju dengan penjaga tentang peraturan penggunaan. Ini mewujudkan jurang 80.6 mata peratusan antara kesedaran dan peraturan yang dipersetujui bersama, namun angka itu tidak menunjukkan bahawa kesedaran semata-mata dapat mencegah penggunaan yang memudaratkan.

Saranan berasingan untuk golongan muda meminta kanak-kanak mempertimbangkan fikiran dan keadaan mereka sendiri sebelum mengikuti nasihat AI, menyedari bahawa mereka boleh menghentikan perbualan pada bila-bila masa, dan memeriksa sama ada mereka menganggap watak AI sebagai rakan atau pasangan romantik sebenar. Jawapan berbahaya perlu dikongsi dengan orang dewasa yang dipercayai, bukannya ditangani seorang diri.

Penjaga dinasihatkan supaya mendengar bagaimana dan mengapa anak menggunakan AI, menyemak kesesuaian umur serta tetapan privasi, dan bersetuju tentang peraturan bersama-sama, bukannya mengenakan larangan menyeluruh. Mereka perlu memerhatikan peningkatan penggunaan, hubungan sesama manusia yang semakin berkurangan dan tanda-tanda krisis. Kaunselor sekolah, pusat kaunseling Wee Class dan perkhidmatan kaunseling belia, termasuk 1388, dikenal pasti sebagai pilihan sokongan.

Amaran itu dikeluarkan ketika rawatan golongan muda meningkat secara lebih meluas: rawatan psikiatri bagi mereka yang berusia bawah 18 tahun meningkat 76.6% antara 2020 dan 2024. Dapatan berasingan tentang kekurangan tidur dalam kalangan pelajar menunjukkan 46.7% pelajar di sekolah menengah atas umum tidur kurang daripada enam jam. Kajian tersebut tidak membuktikan kaitan dengan penggunaan chatbot, tetapi menjelaskan mengapa panduan untuk remaja menekankan perlindungan tidur dan akses kepada rawatan profesional.

Bukti Klinikal Tidak Mengesahkan Setiap Chatbot

Satu tinjauan psikiatri digital yang diterbitkan dalam talian dalam Clinical Psychopharmacology and Neuroscience pada 1 Oktober 2025, menghuraikan potensi manfaat serta batasan serius. Tinjauan itu meneliti ujian dan penyelidikan lain mengenai chatbot yang direka untuk intervensi kesihatan mental, dan tidak menyamakan semua sistem perbualan.

Tinjauan itu memetik satu ujian rawak Therabot yang melaporkan pengurangan purata gejala sebanyak 51% bagi gangguan kemurungan major dan 31% bagi gangguan keresahan menyeluruh. Ia turut membincangkan alat berstruktur berasaskan terapi tingkah laku kognitif, yang membantu seseorang meneliti kaitan antara fikiran, perasaan dan tingkah laku.

Dapatan itu tidak membuktikan bahawa chatbot umum dapat memberikan diagnosis yang boleh dipercayai atau rawatan yang selamat. Produk berbeza dari segi reka bentuk, kandungan terapeutik dan penyeliaan. Tinjauan itu sendiri mengenal pasti bukti yang terhad tentang kesan jangka panjang serta keperluan untuk menguji sistem generatif dengan lebih kukuh bagi mengesan maklumat palsu, jawapan yang tidak konsisten dan tingkah laku tidak selamat.

Kebimbangan keselamatannya termasuk jawapan berbahaya ketika krisis, pengukuhan kepercayaan delusi, berat sebelah dan risiko privasi. Tinjauan itu mengesyorkan prosedur krisis yang diselia manusia, tadbir urus data kesihatan mental yang lebih kukuh dan penjagaan yang menggabungkan alat AI dengan pakar klinikal, bukannya menggantikan mereka.

Tindakan Kerajaan Seterusnya

Pengumuman kementerian itu menyusuli komitmen dasar terdahulu dan menetapkan jadual untuk panduan yang lebih khusus:

• Januari 2025: Korea Selatan mengeluarkan Garis Panduan Kelulusan dan Semakan Peranti Perubatan AI Generatif, yang dibincangkan dalam tinjauan akademik itu.
• 27 Mac 2026: Pelan Asas Ketiga bagi Kebajikan Kesihatan Mental, meliputi tempoh 2026 hingga 2030, merangkumi rancangan untuk panduan kebergantungan pada AI.
• 9 Jun 2026: Langkah kerajaan bagi mencegah bunuh diri dalam kalangan remaja turut menetapkan rancangan untuk menyediakan panduan.
• 25 Ogos hingga 4 September 2026: Tinjauan terhadap 1,019 pengguna terkini AI generatif dijalankan.
• 8 Oktober 2026: Kementerian dan persatuan psikiatri mengeluarkan saranan untuk pengguna dan penjaga.
• 2027: Kementerian merancang panduan yang disesuaikan untuk kumpulan yang lebih berisiko, termasuk mereka yang mengalami penyakit mental yang teruk.

Sokongan orang ramai terhadap campur tangan kerajaan adalah meluas: 86.9% berkata kerajaan berperanan menangani masalah berkaitan penggunaan AI. Daripada jumlah itu, 45.0% menyokong panduan dan 41.9% menyokong peraturan undang-undang. Sebanyak 68.7% menganggap panduan AI kesihatan mental dan perubahan pada rangka kerja undang-undang sebagai keutamaan segera.

Panduan pengguna dan pengawasan produk menangani tanggungjawab yang berbeza. Panduan Pertubuhan Kesihatan Sedunia pada Januari 2024 mengenai model multimodal besar, iaitu sistem yang memproses maklumat seperti teks dan imej, memberi amaran tentang bias automasi, iaitu kepercayaan berlebihan terhadap output mesin. Panduan itu mengesyorkan audit bebas dan penilaian impak selepas penggunaan berskala besar, dengan hasilnya diumumkan kepada orang ramai.

Saranan baharu Korea Selatan itu bukan penilaian atau pengesahan terhadap perkhidmatan tertentu. Kementerian merancang program pendidikan untuk sekolah dan persekitaran klinikal, tetapi pengumuman itu tidak memberikan tarikh tepat untuk pelaksanaan program atau panduan 2027. Ia juga tidak mengumumkan undang-undang baharu yang mengikat bagi mengawal semua chatbot sokongan emosi.

Perkara Utama

• Korea Selatan mengeluarkan panduan AI kesihatan mental pada 8 Oktober 2026, dengan 21 saranan umum serta tujuh saranan masing-masing untuk pengguna muda dan penjaga.
• Dalam kalangan responden yang melaporkan kesihatan mental buruk, 33.9% menerima penilaian AI sebagai diagnosis atau menggunakannya untuk mendiagnosis diri sendiri.
• Hanya 11.9% daripada semua responden menyemak nasihat AI tentang kesihatan mental dengan profesional atau sumber rasmi.
• Kesukaran menghentikan perbualan dan tindakan yang hanya berasaskan nasihat AI lebih lazim dalam kalangan pengguna kaunseling psikologi.
• Dalam kalangan remaja yang ditinjau, 51.7% melaporkan kebergantungan, manakala hanya 2.5% telah bersetuju dengan penjaga tentang peraturan penggunaan.
• Panduan itu menyeru perlindungan privasi, rundingan dengan manusia dan bantuan profesional ketika krisis, dengan saranan khusus dirancang pada 2027.