Pelaksanaan AI Percuma Korea Selatan Menguji Sama Ada Akses Mampu Mengimbangi Risiko

Kemudahan AI awam beralih daripada janji kepada ujian tekanan

Korea Selatan bersedia memberikan setiap rakyat akses percuma kepada kecerdasan buatan, sekali gus membolehkan orang ramai menggunakan chatbot dan ejen AI untuk kerja sekolah, penjagaan kesihatan, perkhidmatan awam dan keputusan harian. Inisiatif yang dinamakan “AI untuk Semua” itu bertujuan menyebarkan teknologi berkenaan secara meluas dan membantu negara itu bersaing dengan Amerika Syarikat serta China. Namun, ia turut menimbulkan satu persoalan sukar: mampukah langkah perlindungan bergerak seiring apabila AI menjadi sebahagian daripada kehidupan awam?

Kerajaan Presiden Lee Jae Myung merancang memulakannya dengan perkhidmatan beta, kemudian mempertimbangkan untuk menjadikan percubaan itu kemudahan kekal yang dibiayai pembayar cukai mulai tahun depan. Perkhidmatan yang dicadangkan itu akan menghubungkan orang ramai dengan alat AI kegunaan umum yang dibangunkan tiga konsortium tempatan diketuai SK Telecom, KT dan Kakao. Kerajaan telah meminjamkan ratusan unit pemproses grafik Nvidia B200 kepada kumpulan berkenaan, iaitu cip khusus yang digunakan untuk melatih dan menjalankan sistem AI yang memerlukan kuasa pengkomputeran tinggi.

Pegawai kerajaan akhirnya membayangkan perantara AI membantu orang ramai membuat temu janji perubatan, mencari rumah dan mendapatkan panduan cukai melalui perkhidmatan yang terhubung dengan kerajaan. Hal ini boleh memudahkan urusan dengan sistem awam, khususnya bagi mereka yang menghadapi kesukaran mengisi borang yang rumit atau berdepan masa menunggu yang lama. Namun, ini juga bermakna kesilapan, kegagalan melindungi privasi atau saranan berat sebelah boleh menjejaskan mereka yang menggunakan perkhidmatan penting.

Kerajaan memperuntukkan 250 bilion won untuk pelaksanaan itu hingga 2027, selain belanjawan AI sebanyak 10 trilion won bagi tahun kewangan semasa. Skala itu mencerminkan strategi nasional untuk membina keupayaan AI dan meluaskan akses, bukan mengehadkannya kepada mereka yang mampu membayar langganan swasta. Percubaan itu akan menguji sama ada akses percuma dapat diterjemahkan kepada prasarana awam yang berguna, dan sama ada rakyat boleh mempercayai sistem yang mengendalikan maklumat serta pertanyaan mereka.

Mengapa pemimpin AI memberi amaran tentang teknologi ini?

Rancangan Korea Selatan muncul ketika tokoh terkemuka dalam industri AI memberi amaran bahawa pembangunan pesat membawa risiko serius. Ketua pegawai eksekutif Anthropic, Dario Amodei, menggesa industri itu memperlahankan pembangunan. Seorang bekas jurutera Anthropic yang pernah bekerja di OpenAI berkata selepas meninggalkan syarikat itu bahawa beliau “benar-benar ketakutan” pembangunan tanpa kawalan boleh bermakna “kita semua mungkin mati dalam masa terdekat.” Ahli sains komputer Geoffrey Hinton, pemenang Hadiah Nobel yang sering digelar “bapa AI”, turut memberi amaran bahawa sistem canggih boleh menjadi ancaman kewujudan jika terlepas daripada kawalan manusia.

Amaran itu merangkumi pelbagai kemungkinan, daripada senjata autonomi dan serangan siber yang digerakkan mesin hingga pengangguran besar-besaran. Risiko lain sudah lebih dikenali: imej dan video palsu yang meyakinkan, keputusan automatik yang bersifat diskriminasi, serta orang ramai bergantung pada sistem yang memberikan jawapan yakin tetapi tidak tepat. Pelaksanaan awam tidak mewujudkan semua bahaya ini, namun boleh meningkatkan pendedahan dengan menjadikan AI lebih mudah digunakan secara meluas.

Sistem AI kegunaan umum menjana jawapan dengan mengenal pasti corak dalam data, bukannya memahami dunia seperti manusia. Sistem ini boleh membantu menggubal, meringkaskan dan mencari maklumat, tetapi mungkin menyatakan perkara tidak benar seolah-olah fakta. Dalam urusan kerajaan atau berkaitan kesihatan, pengguna memerlukan cara yang jelas untuk menyemak jawapan dan menghubungi manusia yang berkuasa membetulkannya.

Apakah langkah perlindungan yang dilaksanakan Seoul?

Korea Selatan bergantung pada Akta Asas AI, yang berkuat kuasa pada Januari, untuk menetapkan peraturan bagi penggunaan AI yang semakin meluas. Rangka kerja itu menetapkan keperluan pengawasan manusia, penilaian impak dan pelabelan kandungan sintetik yang jelas. Langkah-langkah ini bertujuan memudahkan pengenalpastian bahan yang dijana AI dan menghendaki organisasi meneliti potensi kemudaratan sebelum melaksanakan sistem.

Institut Keselamatan AI yang dibiayai kerajaan turut dipertanggungjawabkan menilai risiko dan bertindak sebagai badan pemantau teknikal. Kerjanya sama penting dengan peraturan rasmi: menilai sama ada sistem beroperasi dengan andal, sama ada data sensitif dilindungi dan sama ada pengguna boleh mencabar keputusan yang membawa kesan besar. Penilaian impak hanya berguna jika ia meneliti kesan di dunia sebenar dan mendorong perubahan apabila masalah timbul.

Hubungan yang dirancang dengan perkhidmatan kerajaan menjadikan akauntabiliti amat penting. Jika pembantu AI memberikan panduan cukai yang salah atau tersalah mengendalikan permintaan temu janji perubatan, pengguna patut tahu agensi mana yang bertanggungjawab dan cara mendapatkan bantuan. Sistem itu tidak sepatutnya menjadi penghalang antara rakyat dengan pegawai yang membuat keputusan. Semakan manusia paling bermakna apabila mudah diakses, dilakukan segera dan berupaya mengatasi saranan automatik.

Akses percuma juga tidak bermakna kos operasi tiada. Agensi awam perlu membayar kos pengkomputeran, keselamatan, penyelenggaraan dan penilaian, sambil menentukan jumlah maklumat peribadi yang patut disimpan oleh sesuatu perkhidmatan. Pelaburan kerajaan dalam perkakasan dan perisian pengkomputeran hanya satu bahagian daripada perkhidmatan awam jangka panjang; pengawasan dan sokongan memerlukan sumber yang berterusan.

Pekerjaan dan penyalahgunaan deepfake sudah menjadi sebahagian daripada perdebatan

Antara kebimbangan Korea Selatan berasaskan kemudaratan yang sedang berlaku. Bank of Korea melaporkan bilangan penduduk bekerja berusia 15 hingga 29 tahun merosot sebanyak 285,000 antara Jun 2022 dengan Jun tahun ini. Bank itu menganggarkan 94 peratus daripada kemerosotan tersebut berlaku dalam sektor yang sangat terdedah kepada automasi. Angka itu menunjukkan pertindihan ketara antara pekerjaan golongan muda dengan perubahan teknologi, tetapi tidak membuktikan bahawa AI sahaja menyebabkan kemerosotan itu. Keadaan ekonomi dan perubahan lain dalam pengambilan pekerja juga boleh mempengaruhi pekerjaan.

Automasi boleh menggantikan tugas tertentu tanpa menghapuskan keseluruhan pekerjaan. Namun, perbezaan itu kurang melegakan pekerja yang tugas peringkat permulaannya diautomasikan atau majikan mereka mengurangkan pengambilan pekerja. Golongan muda mungkin lebih terdedah jika tugas rutin pentadbiran atau perkhidmatan selama ini menjadi laluan mereka memasuki alam pekerjaan. Pembuat dasar perlu memantau kualiti pekerjaan dan corak pengambilan pekerja, bukan sekadar jumlah keseluruhan pekerjaan, apabila penggunaan AI semakin meluas.

Bagi ramai rakyat Korea Selatan, kebimbangan paling mendesak ialah penyalahgunaan jenayah, khususnya deepfake berunsur penderaan seksual. Kes Bilik N, skandal eksploitasi seksual dalam talian pada 2020, dan kes-kes selepas itu mendorong undang-undang deepfake yang lebih tegas pada 2024. Namun, polis merekodkan 1,553 kesalahan berkaitan deepfake pada tahun lalu, menurut angka yang dibentangkan dalam forum Amnesty International Korea baru-baru ini.

Won Eun-ji, pengarah kumpulan penyiasatan jenayah seksual digital Team Flame, menghabiskan sebahagian besar tahun ini menyertai kira-kira 50 bilik sembang Telegram bersama media penyiasatan Newstapa. Beliau mendokumentasikan bagaimana alat AI telah meluaskan kumpulan pelaku tanpa nama dan menurunkan usia mangsa. Alat penjanaan imej dan pertukaran wajah boleh memudahkan penciptaan bahan penderaan, manakala ruang dalam talian yang disulitkan atau tanpa nama boleh menyukarkan penyiasatan dan usaha memastikan pelaku bertanggungjawab.

Undang-undang jenayah ialah salah satu bahagian dalam usaha menangani masalah ini, namun pencegahan dan sokongan juga penting. Mangsa memerlukan pemadaman imej dengan segera, bantuan praktikal untuk melaporkan penderaan dan perlindungan daripada penyebaran lanjut. Apabila alat AI semakin mudah diakses, dasar akses awam perlu mengambil kira kemungkinan sistem digunakan untuk menghasilkan atau menyebarkan bahan berbahaya, walaupun tujuan asalnya tidak memudaratkan.

Sekolah berdepan ujian tersendiri tentang nilai AI

Pendidikan menjadi satu lagi punca pergeseran. Pendidik membantah tahun lalu rancangan kerajaan yang bertahan seketika untuk membelanjakan 1.2 trilion won bagi buku teks berkuasa AI. Kebimbangan mereka bukan sekadar sama ada perisian itu berfungsi. Mereka turut mempersoalkan perkara yang mungkin hilang daripada pengalaman pelajar apabila sistem memberikan jawapan sebelum mereka berusaha menyelesaikan masalah.

Song Keun-sang, guru darjah lima di wilayah Chungcheong Selatan yang menyertai bantahan itu, berkata AI “sekadar memberikan jawapan” dan “tidak banyak nilai pendidikannya.” Kritikan beliau menyentuh perbezaan asas dalam pendidikan: menyiapkan tugasan tidak sama dengan mempelajari cara melakukannya. Alat yang menerangkan idea sukar atau menyesuaikan latihan mengikut keperluan pelajar mungkin membantu. Namun, alat yang memintas proses membaca, menaakul atau menulis boleh melemahkan kemahiran tersebut.

Kebimbangan tentang kemerosotan markah membaca menambahkan desakan dalam perdebatan itu, walaupun ia tidak sepatutnya dianggap sebagai bukti bahawa AI menyebabkan perubahan prestasi pelajar. Sekolah memerlukan bukti tentang kesan alat tertentu terhadap kefahaman, tumpuan dan kerja kendiri. Guru juga perlu memainkan peranan dalam menentukan bila AI menyokong pengajaran dan bila penggunaannya patut diketepikan daripada proses pembelajaran.

Peraturan untuk bilik darjah mungkin berbeza daripada peraturan bagi chatbot awam kegunaan umum. Pelajar memerlukan perlindungan yang sesuai dengan usia, had pengumpulan data yang jelas dan tugasan yang menilai pemahaman mereka sendiri. AI boleh membantu guru membuat persediaan atau memberikan penjelasan alternatif kepada pelajar, tetapi ia tidak boleh menggantikan hubungan pendidikan atau menilai keperluan setiap pelajar dengan tepat secara konsisten.

Bolehkah akses sejagat membina kepercayaan awam?

“AI untuk Semua” ialah usaha bercita-cita tinggi untuk menjadikan akses kepada AI sebagai prasarana awam. Model itu boleh merapatkan jurang yang menyebabkan alat canggih hanya tersedia terutamanya kepada individu kaya dan syarikat besar. Pembantu yang andal mungkin membantu orang ramai mencari maklumat, melengkapkan urusan rutin atau mendapatkan perkhidmatan yang sukar digunakan. Manfaat itu bergantung pada mutu alat berkenaan dan keupayaan pengguna mendapatkan jawapan daripada manusia apabila sistem gagal.

Akses sejagat juga mengubah kesan pilihan reka bentuk. Kelemahan dalam chatbot swasta menjejaskan penggunanya, manakala kelemahan dalam perkhidmatan awam boleh memberi kesan kepada bahagian penduduk yang jauh lebih besar. Jika sistem dihubungkan dengan rekod awam atau aliran kerja agensi, pelanggaran keselamatan dan hasil yang tidak tepat boleh membawa kesan melangkaui satu perbualan. Had privasi yang kukuh, ujian bebas, rekod prestasi sistem yang jelas dan saluran rayuan akan membantu menentukan sama ada perkhidmatan itu dapat meraih kepercayaan.

Korea Selatan mempunyai sektor teknologi yang kukuh dan sumber untuk menjalankan percubaan berskala besar. Cabaran utamanya ialah memastikan perkhidmatan itu bertanggungjawab kepada masyarakat, selain berkeupayaan dari segi teknikal. Ini bermakna menjelaskan data yang dikumpulkan oleh sistem, mengenal pasti pihak yang bertanggungjawab atas kesilapan dan menerbitkan maklumat yang mencukupi untuk penelitian pihak luar. Ia juga bermakna mengukur sama ada perkhidmatan itu membantu orang ramai, bukannya menganggap jumlah pengguna atau ciri yang tersedia sebagai bukti kejayaan.

Pelaksanaan itu akan menguji sama ada pelaburan awam dapat meluaskan akses sambil mengekalkan pertimbangan manusia dalam bidang yang kesilapannya membawa kos sebenar. Undang-undang dan institut keselamatan Korea Selatan menyediakan rangka kerja, tetapi nilainya akan dinilai berdasarkan cara ia berfungsi dalam amalan apabila AI mula memasuki bilik darjah, tempat kerja dan pejabat kerajaan.

Perkara Utama

• Korea Selatan merancang percubaan AI percuma yang diterajui konsortium berkaitan SK Telecom, KT dan Kakao.
• Kerajaan berharap menjadikan AI sebagai kemudahan awam kekal yang dihubungkan dengan perkhidmatan seperti temu janji dan panduan cukai.
• Akta Asas AI mewajibkan pengawasan manusia, penilaian impak dan pelabelan kandungan sintetik.
• Kebimbangan tentang pekerjaan termasuk kemerosotan bilangan penduduk bekerja berusia 15 hingga 29 tahun, yang tertumpu dalam sektor terdedah kepada automasi.
• Polis merekodkan 1,553 kesalahan berkaitan deepfake pada tahun lalu, ketika kebimbangan berterusan tentang penderaan seksual yang dimungkinkan oleh alat AI.
• Guru membantah buku teks berkuasa AI dengan alasan jawapan segera boleh mengganggu proses pembelajaran.