Taiwan Buka Rundingan Mengenai Keselamatan Ejen AI Sebelum Digunakan dalam Sistem Kewangan

30 hari untuk membahaskan perlindungan bagi AI yang boleh bertindak

Suruhanjaya Penyeliaan Kewangan Taiwan (FSC) membuka rundingan awam selama 30 hari pada 13 Oktober 2026, dengan mencadangkan perlindungan keselamatan bagi ejen kecerdasan buatan yang boleh menyambung kepada, mengendalikan atau mencetuskan sistem operasi institusi kewangan. Cadangan itu menetapkan empat tahap risiko, L1 hingga L4, dan menyatakan bahawa tindakan berisiko paling tinggi perlu memerlukan kebenaran, semakan atau mekanisme yang perlu untuk menghentikan pelaksanaan.

Dokumen bertajuk Dokumen Rundingan mengenai Penggunaan AI Agentik yang Selamat dalam Sektor Kewangan itu diterbitkan sebelum penggunaannya meluas. Lin Yu-tai, pengarah Jabatan Pengurusan Maklumat suruhanjaya itu, berkata kebanyakan institusi kewangan masih menjalankan eksperimen atau percubaan kecil dalam persekitaran terkawal. Katanya, beliau belum mendengar mana-mana institusi menggunakan ejen ini dalam operasi perniagaan sebenar.

Kebimbangan utama suruhanjaya itu ialah peralihan daripada AI yang menghasilkan maklumat kepada AI yang mengambil tindakan. Pembantu yang merumuskan aduan pelanggan menimbulkan isu keselamatan yang berbeza daripada ejen yang boleh mendapatkan rekod sulit, mengubah maklumat dalam sistem atau menghantar balasan terus kepada pelanggan.

Oleh itu, rundingan ini memberi tumpuan kepada kebenaran akses dan akauntabiliti, bukan ketepatan model semata-mata. Institusi perlu menentukan maklumat yang boleh diakses oleh ejen, alat yang boleh digunakannya, tindakan yang boleh dilakukannya dan cara kakitangan boleh menghentikannya atau mengambil alih apabila berlaku masalah.

Dokumen itu bukan peraturan baharu atau garis panduan rasmi. Ia tidak menggantikan undang-undang sedia ada, keperluan penyeliaan, peraturan penyumberan luar atau kawalan dalaman. Suruhanjaya berharap rundingan ini dapat menyokong panduan pada masa hadapan, namun belum menetapkan jadual bagi langkah itu.

Mengapa akses operasi mengubah risiko

AI agentik boleh merancang langkah, menggunakan alat perisian dan mendapatkan maklumat merentas sistem untuk melaksanakan sesuatu tugasan. Ini membezakannya daripada aplikasi perbualan yang fungsi utamanya ialah menjana jawapan untuk dinilai seseorang. Isu keselamatan menjadi lebih mendesak apabila jawapan yang salah boleh terus mencetuskan tindakan operasi.

Lin mengenal pasti empat risiko utama: ejen menyimpang daripada objektif yang ditetapkan, menyalahgunakan alat atau melampaui kebenarannya, mendedahkan maklumat sensitif, serta membolehkan kesilapan merebak melalui satu siri tindakan. Risiko ini boleh bergabung. Ejen mungkin mendapatkan maklumat yang tidak sepatutnya digunakan, memasukkannya ke dalam mesej dan kemudian menghantar mesej itu ke luar institusi.

Halusinasi AI, iaitu output yang kelihatan munasabah tetapi tidak tepat, kekal menjadi kebimbangan. Lin menggambarkan senario ejen meletakkan maklumat peribadi dalam e-mel luaran yang tidak sepatutnya mengandunginya. Ini ialah gambaran tentang kemungkinan kegagalan, bukannya insiden yang didedahkan di institusi kewangan.

Kelajuan juga mengubah potensi skala masalah. Lin membandingkan seseorang yang mungkin mengendalikan satu kes sejam dengan ejen yang berpotensi mengendalikan 100 kes. Contoh itu menunjukkan perbezaan seratus kali ganda dari segi jumlah pemprosesan, bukannya hasil produktiviti yang diukur. Maksud beliau ialah kesilapan automatik boleh merebak kepada banyak kes sebelum kakitangan sempat campur tangan.

Urus tugasan, bukan teknologi semata-mata

Rundingan ini menyusun cadangannya berdasarkan tiga bidang: tadbir urus keselamatan, pengelasan risiko dan kawalan keselamatan. Unit pengurusan yang diutamakan ialah senario aplikasi, iaitu tugasan tertentu yang mahu dilaksanakan oleh institusi menggunakan ejen, bukannya produk AI yang dipertimbangkan secara berasingan.

Bagi setiap senario, institusi perlu menetapkan tujuan perniagaan, kakitangan yang bertanggungjawab, data yang dibenarkan, alat yang tersedia dan tindakan yang dibenarkan. Institusi juga perlu mengenal pasti destinasi output boleh dihantar atau direkodkan serta tindakan yang perlu diambil jika ejen berkelakuan luar biasa.

Pendekatan ini bermakna perisian yang sama boleh tertakluk pada kawalan berbeza mengikut peranannya. Ejen yang menganalisis maklumat keselamatan tanpa mengambil tindakan berbeza daripada ejen yang dibenarkan mengubah sistem operasi. Oleh itu, perubahan pada kebenaran akses boleh sama pentingnya dengan perubahan pada model asas.

Tadbir urus akan berterusan selepas kelulusan awal. Cadangan itu menghendaki semakan, pemantauan, pemeriksaan, pengurangan keupayaan, penggantungan dan mekanisme pemulihan yang sepadan dengan tahap risiko. Pengelasan perlu menjadi panduan bagi ambang kelulusan, syarat percubaan, keputusan penggunaan dan penyeliaan seterusnya, dengan penilaian semula apabila aplikasi berubah.

Empat tahap risiko, dinilai berdasarkan tiga paksi

Pengelasan L1 hingga L4 yang dicadangkan menggunakan tiga paksi: sensitiviti data, kesan tindakan serta had keupayaan atau potensi kesan untuk merebak. Penilaian berdasarkan hasil risiko yang lebih tinggi, bukannya membolehkan ciri berisiko rendah mengimbangi ciri yang lebih berbahaya.

Sensitiviti data merujuk kepada perkara yang boleh dilihat oleh ejen. Akses kepada maklumat awam berbeza daripada akses kepada rekod peribadi atau rahsia perniagaan. Kesan tindakan pula merujuk kepada perkara yang boleh dilakukan ejen terhadap maklumat itu, daripada membacanya hinggalah mengubah rekod atau berkomunikasi dengan pihak di luar institusi.

Paksi ketiga menilai skop dan jangkauan aktivitinya. Ejen yang terhad kepada satu tugasan berbeza daripada ejen yang boleh memproses kelompok data, terus beroperasi sepanjang masa atau melaksanakan beberapa langkah yang saling berkaitan. Di sinilah kemungkinan kesilapan kecil menjadi masalah operasi yang lebih besar diambil kira.

Bagi aplikasi L4, cadangan itu akan menghalang tindakan berisiko tinggi daripada dilaksanakan secara automatik tanpa kebenaran, semakan atau mekanisme penyekatan yang perlu. Aplikasi berisiko lebih rendah masih diberi ruang untuk percubaan. Suruhanjaya berkata pendekatannya berasaskan risiko, perkadaran dan sikap berkecuali terhadap teknologi tertentu, dengan merujuk kepada rangka kerja keselamatan antarabangsa.

Khidmat pelanggan menunjukkan pentingnya kebenaran akses

Contoh khidmat pelanggan yang diberikan Lin menunjukkan perbandingan praktikal. Ejen yang mengumpulkan aduan dan menyediakan ringkasan berada dalam julat risiko rendah hingga sederhana. Jika ejen itu juga boleh menghantar balasan kepada pelanggan, Lin meletakkannya dalam julat risiko sederhana hingga tinggi kerana ia boleh bertindak di luar institusi.

Perbezaannya bukan sekadar sama ada kedua-dua aplikasi menggunakan AI. Dalam kes pertama, pekerja boleh menyemak ringkasan sebelum ia memberi kesan kepada pelanggan. Dalam kes kedua, ejen boleh menukarkan tafsirannya menjadi komunikasi luaran. Kebenaran untuk menghantar mesej mengubah akibat sesuatu kesilapan.

Kebenaran untuk menulis maklumat mewujudkan satu lagi batas. Ejen yang hanya dibenarkan membaca tidak boleh mengubah rekod asal melalui kebenaran itu. Sebaik sahaja kebenaran menulis diberikan, kesilapan boleh mengubah atau memadam maklumat. Oleh itu, kawalan perlu meliputi mutu output serta integriti sistem yang disentuhnya.

Contoh itu juga menjelaskan mengapa satu label tunggal bagi keseluruhan program AI sesebuah institusi tidak memadai. Dua penggunaan ejen yang sama mungkin memerlukan syarat kelulusan, pemantauan dan pengaturan pemulihan yang berbeza kerana akses data dan tindakan yang dibenarkan tidak sama.

Pekerja digital masih memerlukan penyelia manusia

Lin menyifatkan ejen AI sebagai pekerja digital kerana ia boleh melaksanakan tugasan secara aktif. Perumpamaan itu bukan sekadar soal memberikan peranan: institusi perlu menentukan perkara yang boleh dilakukannya, mengujinya sebelum digunakan, menyelia aktivitinya dan menyediakan prosedur untuk menghentikan kerjanya.

Ketika mengulas tentang tanggungjawab penggunaan, Lin menegaskan bahawa penyerahan tugasan kepada ejen tidak menghapuskan akauntabiliti manusia. Dalam terjemahan bahasa Inggeris, beliau berkata:

AI hanya boleh menjadi pembantu; manusia ialah penyelia utama.

Prinsip itu meletakkan tanggungjawab pada manusia untuk menetapkan kuasa ejen dan bertindak balas terhadap kegagalan. Kawalan keselamatan sedia ada tidak boleh diketepikan hanya kerana ejen AI terlibat. Institusi memerlukan pembuat keputusan manusia yang bertanggungjawab serta kaedah teknikal untuk menguatkuasakan had yang diluluskan oleh individu itu.

Tumpuan suruhanjaya itu lebih khusus daripada semua penggunaan AI oleh pekerja. Pembantu peribadi yang beroperasi dalam lingkungan kuasa sedia ada seseorang boleh diurus melalui kawalan dalaman dan aturan keselamatan sedia ada. Penyambungan ejen kepada sistem operasi institusi kewangan memerlukan penilaian baharu terhadap risiko dan keselamatan maklumat.

Kawalan identiti dan akses turut meliputi ejen

Cadangan keselamatan itu menganggap ejen sebagai identiti bukan manusia dan beban kerja perisian. Secara praktikal, institusi perlu mengetahui ejen yang sedang bertindak dan kebenaran yang terpakai kepadanya. Aktiviti ejen tidak sepatutnya sukar dibezakan daripada pengguna lain atau proses automatik yang tidak berkaitan.

Pendekatan itu berasaskan prinsip sifar kepercayaan: akses tidak dianggap selamat hanya kerana sistem berada dalam organisasi. Identiti dan kebenaran perlu disahkan, akses dihadkan kepada keperluan tugasan dan tindakan boleh dijejaki.

Kawalan merangkumi identiti, peranti dan persekitaran pelaksanaan, rangkaian, aplikasi dan beban kerja, serta perlindungan data. Cadangan itu merangkumi keperluan dan objektif kawalan keselamatan asas serta lanjutan, di samping kawalan tingkah laku, keterlihatan dan analisis.

Lin menggariskan beberapa langkah konkrit. Ejen perlu beroperasi dalam persekitaran terasing yang bersesuaian, sambungan rangkaian perlu dihadkan mengikut tugasan dan alat perlu dihadkan kepada senarai yang diluluskan. Akses data perlu mematuhi prinsip keperluan minimum. Langkah ini menangani pelbagai laluan yang boleh menyebabkan ejen melampaui peranan yang ditetapkan, bukannya hanya bergantung pada arahan yang diberikan kepada model.

Ujian perlu meliputi kegagalan merentas keseluruhan aliran kerja

Bagi aplikasi yang boleh melaksanakan aliran kerja, rundingan ini menghendaki ujian sebelum penggunaan untuk menilai suntikan arahan, penyalahgunaan alat, kebenaran diwarisi dan pencemaran memori. Ujian ini menilai tingkah laku ejen apabila maklumat, alat atau kuasa yang ditemuinya mendorongnya menyimpang daripada tugasan yang diluluskan.

Suntikan arahan berlaku apabila arahan tersembunyi dalam bahan yang dibaca ejen cuba mengubah hala tingkah lakunya. Penyalahgunaan alat merujuk kepada penggunaan perisian yang disambungkan secara tidak wajar. Kebenaran diwarisi boleh memberikan ejen akses yang dibawa daripada akaun atau proses lain, manakala pencemaran memori melibatkan maklumat tersimpan yang mempengaruhi aktiviti seterusnya dengan cara yang tidak disengajakan.

Matlamat operasi bukan sekadar mencegah kegagalan. Sistem perlu boleh diperhatikan, dihadkan atau dihentikan, dipulihkan dan dijejaki. Kakitangan perlu melihat tindakan ejen, menyampuk untuk menghentikan aktiviti berbahaya dan memulihkan operasi yang terjejas jika boleh.

Rekod aktiviti ejen perlu menyokong penyiasatan dan audit. Menghentikan ejen sahaja mungkin tidak menyelesaikan kegagalan jika ejen sudah merekodkan maklumat yang salah atau mencetuskan tindakan selanjutnya. Oleh itu, cadangan tersebut mengaitkan tindakan menghentikan ejen dengan pemulihan dan rekod tentang perkara yang berlaku.

Rundingan, bukan peraturan muktamad untuk penggunaan

Suruhanjaya itu menerbitkan dokumen berkenaan dalam bahagian perbincangan awam Platform Penyertaan Rangkaian Dasar Awam Taiwan. Menurut suruhanjaya, rundingan perlu membawa pengalaman praktikal ke dalam rangka kerja dan menjadi asas kepada penggubalan dasar, kemungkinan panduan serta perbincangan penyeliaan.

Lin berkata perubahan teknologi yang pesat merupakan salah satu sebab untuk tidak mengeluarkan garis panduan tetap dengan segera. Suruhanjaya itu juga tidak boleh menganggap bahawa semua risiko yang berkaitan telah dikenal pasti. Oleh itu, hasratnya untuk menyediakan panduan bergantung pada maklum balas dan perkembangan seterusnya, bukannya janji untuk menerbitkan dokumen muktamad pada tarikh tertentu.

Urutan yang diterangkan oleh suruhanjaya ialah:

• Julai 2026: FSC mencadangkan strategi untuk menangani serangan AI, yang menurut Lin menjadi pendahulu kepada kerja semasa.
• 13 Oktober 2026: FSC menerbitkan dokumen rundingan keselamatan AI agentik.
• Selepas penerbitan: Tempoh ulasan awam selama 30 hari membolehkan maklum balas diberikan mengenai pendekatan yang dicadangkan.
• Selepas rundingan: Panduan rasmi yang mungkin dikeluarkan bergantung pada maklum balas dan perkembangan teknologi; jadual penerbitan belum diumumkan.

Percubaan semasa membantu menjelaskan masanya. Lin berkata banyak eksperimen dijalankan dalam bidang keselamatan siber, seperti menganalisis risikan keselamatan tanpa mengambil tindakan operasi secara langsung. Suruhanjaya mahu perlindungan tersedia sebelum ejen digunakan dengan lebih meluas dalam proses pentadbiran dan perniagaan. Langkah konkrit seterusnya ialah rundingan ini, manakala perkataan akhir dan status sebarang panduan masih belum diputuskan.

Perkara Utama

• FSC Taiwan membuka rundingan selama 30 hari pada 13 Oktober 2026 mengenai penggunaan AI agentik yang selamat dalam sektor kewangan.
• Tumpuannya ialah ejen yang boleh menyambung kepada, mengendalikan atau mencetuskan sistem operasi institusi kewangan.
• Cadangan itu menggunakan empat tahap risiko yang dinilai berdasarkan sensitiviti data, kesan tindakan dan had keupayaan.
• Tindakan berisiko paling tinggi memerlukan kebenaran, semakan atau mekanisme yang perlu untuk menyekat pelaksanaan.
• Institusi perlu mengehadkan kebenaran akses, menyimpan rekod aktiviti serta berupaya menghentikan ejen dan memulihkan keadaan selepas kegagalan.
• Tanggungjawab manusia kekal walaupun tugasan dilaksanakan oleh ejen AI.
• Kebanyakan penggunaan masih pada peringkat percubaan. Dokumen itu bukan garis panduan rasmi dan jadual untuk penerbitannya belum ditetapkan.