Penyalahgunaan deepfake AI terhadap kanak-kanak di Jepun cetus siasatan polis dan perbahasan undang-undang

Krisis yang semakin meruncing di sekolah-sekolah Jepun

Polis di seluruh Jepun menerima semakin banyak laporan bahawa rakan sekelas menggunakan kecerdasan buatan untuk menghasilkan deepfake seksual melibatkan kanak-kanak bawah umur, selalunya dengan mengambil gambar daripada acara sekolah, album graduasi dan sembang kumpulan peribadi. Mangsa lazimnya pelajar sekolah menengah rendah dan menengah atas, namun kanak-kanak sekolah rendah juga menjadi sasaran. Dalam beberapa kes, pelakunya juga bawah umur dan menggunakan laman penjana imej atau aplikasi telefon pintar ringkas untuk menghasilkan imej palsu yang meyakinkan dan eksplisit, lalu berkongsinya dalam kalangan rakan sebaya.

Pihak berkuasa berkata lebih 100 aduan dan laporan mengenai imej seksual palsu kanak-kanak bawah umur direkodkan sepanjang tahun lalu. Tujuh belas daripada kes yang diketahui melibatkan imej yang dihasilkan daripada gambar acara sekolah atau foto buku tahunan. Mangsa sering mengesyaki seseorang yang mereka kenali. Polis turut merekodkan gangguan terhadap rakan sebaya yang sama jantina, dengan tujuan membuli atau memalukan, bukannya untuk mendapatkan rangsangan seksual. Dalam satu kes di wilayah Tokai, tengah Jepun, seorang pelajar lelaki sekolah menengah rendah dirujuk kepada pendakwa raya atas syak mencemarkan nama baik selepas menghasilkan imej bogel palsu rakan sekelas perempuan dan berkongsinya dengan rakan-rakan.

Peningkatan ini seiring dengan trend global yang lebih luas. Sebuah firma keselamatan Amerika Syarikat mengesan sekurang-kurangnya 95,820 video deepfake dalam talian pada 2023 dan melaporkan bahawa 98 peratus daripadanya berkaitan pornografi. Kini, alat yang mudah digunakan membolehkan pengguna menaip arahan, memuat naik wajah atau cuba menanggalkan pakaian daripada foto hanya dengan satu sentuhan. Kemudahan ini bertembung dengan dinamika sosial di sekolah dan jumlah besar foto peribadi yang dimuat naik atau dikongsi kanak-kanak, sering kali tanpa mereka menyedari bagaimana gambar itu boleh disalahgunakan sebagai senjata.

Bagaimana remaja menghasilkan deepfake menggunakan foto harian

Alat yang tersedia hari ini terbahagi kepada beberapa kategori. Sesetengah aplikasi cuba “menelanjangkan” foto dengan mereka-reka bentuk tubuh di sebalik pakaian. Aplikasi lain menampalkan wajah daripada foto sekolah pada tubuh pelakon dewasa. Laman AI generatif juga boleh menghasilkan imej eksplisit berdasarkan arahan teks semata-mata, kemudian diubah suai supaya menyerupai individu tertentu menggunakan beberapa foto rujukan. Sistem ini direka untuk menghasilkan imej baharu berdasarkan corak yang dipelajari daripada set data berskala besar. Sistem itu juga boleh dijalankan pada peranti pengguna biasa, sekali gus memudahkan penyalahgunaan dan menyukarkan pengesanan oleh sekolah, keluarga serta pihak penguat kuasa.

Mengapa kes sukar didakwa

Undang-undang utama Jepun yang menangani imej seksual kanak-kanak, Akta Kawal Selia dan Hukuman terhadap Perbuatan Berkaitan Pelacuran Kanak-kanak dan Pornografi Kanak-kanak, digubal untuk melindungi kanak-kanak sebenar yang dirakam dalam imej sebenar. Hal ini mewujudkan ruang kelabu bagi imej palsu yang dijana AI. Apabila imej itu sintetik, walaupun menggunakan wajah atau rupa kanak-kanak sebenar, laluan undang-undang untuk mengambil tindakan kurang jelas. Polis menyesuaikan pendekatan dengan menggunakan undang-undang lain, termasuk undang-undang fitnah dan ordinan tempatan tertentu, untuk menyiasat kes yang berkenaan. Pendekatan ini bersifat berasingan dan meletakkan tanggungjawab kepada mangsa serta keluarga untuk mengesan penyalahgunaan dan membuat aduan dengan segera.

Tindakan polis ketika ini

Agensi Polis Kebangsaan mula meneliti kira-kira 10 laman web dan aplikasi penjana imej yang amat popular dalam kalangan pelajar sekolah menengah rendah dan menengah atas. Penyiasat merancang menggunakan hasil penelitian itu untuk menyokong siasatan jenayah dan membangunkan program pendidikan untuk golongan muda, termasuk kelas pencegahan kenakalan yang menerangkan mengapa menghasilkan atau berkongsi imej sedemikian boleh menjadi jenayah dan menyebabkan kemudaratan serius kepada rakan sekelas.

Pegawai kanan memberi amaran bahawa skala penyalahgunaan jauh lebih besar daripada yang ditunjukkan oleh kes yang dilaporkan. Selepas meneliti aduan terkini, seorang pegawai kanan polis berkata insiden yang diketahui berkemungkinan hanya sebahagian kecil daripada kegiatan sebenar kerana ramai mangsa tidak tampil membuat laporan.

Ruang kelabu undang-undang di Jepun

Pakar undang-undang di Jepun berkata kerangka perundangan negara itu tidak berkembang seiring dengan AI generatif. Di bawah peraturan semasa, jika pihak pendakwa tidak dapat membuktikan bahawa kanak-kanak sebenar digambarkan atau kanak-kanak sebenar itu dapat dikenal pasti dengan jelas, deepfake mungkin tidak termasuk dalam rejim kebangsaan berhubung bahan penderaan seksual kanak-kanak. Kelompongan ini berbeza dengan kemudaratan sebenar yang dialami mangsa apabila wajah atau nama mereka dikaitkan dengan imej rekaan eksplisit yang tersebar dalam sembang kumpulan atau di media sosial.

Takashi Nagase, peguam dan profesor di Universiti Kanazawa yang pernah memberi nasihat mengenai dasar internet, berpendapat bahawa perbezaan antara imej sebenar dengan imej sintetik tidak lagi sesuai dengan cara teknologi ini digunakan.

Undang-undang semasa direka untuk melindungi kanak-kanak sebenar, tetapi AI generatif telah mengaburkan garis pemisah antara yang sebenar dengan yang palsu.

Beberapa kerajaan tempatan mula bertindak. Wilayah Tottori menyemak ordinannya pada 2024 untuk secara jelas melarang penghasilan imej palsu berunsur seksual menggunakan foto kanak-kanak. Aktivis mengalu-alukan langkah di peringkat tempatan, namun berkata undang-undang kebangsaan diperlukan supaya penguatkuasaan tidak berbeza mengikut bidang kuasa atau gagal apabila imej disimpan di pelayan asing atau dikongsi secara tanpa nama. Kumpulan kerja kerajaan pusat telah membincangkan penggunaan internet oleh golongan muda dan langkah yang berpotensi diambil untuk menangani penyalahgunaan AI, namun kemajuannya perlahan.

Masaki Ueda, profesor madya undang-undang jenayah di Universiti Kanagawa yang mengkaji peraturan berkaitan kelucahan, berkata kerangka undang-undang perlu mencerminkan kemudaratan sebenar terhadap privasi dan psikologi yang dialami kanak-kanak apabila rupa mereka disalahgunakan.

Jika imej palsu yang canggih tersebar dalam talian, privasi kanak-kanak yang fotonya disalahgunakan tetap dicabuli walaupun imej itu palsu. Beban psikologinya besar, maka imej deepfake sepatutnya dilayan sama seperti pornografi kanak-kanak dan peraturan undang-undang perlu dipertimbangkan.

Teknologi di sebalik penyalahgunaan

Deepfake dihasilkan menggunakan model pembelajaran mesin yang dilatih untuk menjana imej seakan-akan nyata. Dua keluarga alat mendominasi bidang ini. Kaedah pertukaran wajah menyelaraskan dan menggabungkan wajah sasaran ke dalam video atau foto sedia ada. Sistem teks ke imej, yang sering dipanggil model difusi, menghasilkan keseluruhan imej dari awal berdasarkan arahan bertulis dan, jika disediakan, sebilangan kecil wajah rujukan. Pelaku kadangkala memperhalus model setempat menggunakan beberapa gambar yang dikikis daripada profil media sosial sasaran atau diambil daripada album sekolah, menjadikan hasilnya kelihatan sangat mirip dengan kanak-kanak berkenaan.

Kemajuan ini menyukarkan pengesanan dan tindak balas. Jika imej itu sepenuhnya sintetik, tiada foto asal untuk dijadikan perbandingan. Tanda air dan penapis pengesanan AI tersedia, tetapi keberkesanannya tidak konsisten dan tanda air boleh dibuang. Internet Watch Foundation melaporkan bahawa dalam tempoh sebulan pada 2023, sebuah forum web gelap memuat naik lebih 20,000 imej janaan AI, dan ribuan daripadanya melanggar undang-undang UK. Kemas kini kemudian memberi amaran bahawa kandungan sedemikian semakin tersebar ke web terbuka, tempat pengguna yang tidak menyedarinya dan mangsa mungkin menemuinya di forum terbuka serta galeri imej. Menurut IWF, sesetengah kandungan yang paling meyakinkan tidak dapat dibezakan secara visual daripada imej penderaan sebenar, sekali gus meningkatkan risiko mangsa mengalami trauma semula dan membebankan moderator serta polis. IWF telah menerbitkan penyelidikan tentang penyalahgunaan AI untuk menghasilkan imej penderaan seksual kanak-kanak dan menggesa langkah undang-undang serta teknikal diambil segera. Laporan mereka boleh didapati di penyelidikan IWF.

Kesan terhadap mangsa dan sekolah

Bagi kanak-kanak, melihat wajah sendiri ditampal pada imej seksual boleh mencetuskan rasa takut, malu dan kehilangan kawalan. Walaupun rakan sekelas tahu gambar itu rekaan, kerosakan terhadap reputasi dan kesihatan mental boleh menjadi sangat mendalam. Komuniti sekolah berdepan kesan susulan apabila khabar angin tersebar, buli semakin buruk dan guru bertungkus-lumus menangani kebimbangan ibu bapa, keselamatan pelajar serta urusan dengan pihak penguat kuasa.

Kanak-kanak perempuan khususnya berkata mereka mengubah cara berinteraksi dalam talian. Di England, pesuruhjaya kanak-kanak melaporkan bahawa sesetengah remaja berhenti memuat naik foto kerana bimbang alat untuk menelanjangkan imej akan digunakan bagi menyalahgunakan gambar itu. Dame Rachel de Souza, pesuruhjaya kanak-kanak England, menggesa penggubal undang-undang mengharamkan aplikasi yang menghasilkan deepfake eksplisit kanak-kanak, sambil menyebut keresahan yang semakin meningkat dalam kalangan remaja perempuan.

Alat yang menggunakan teknologi deepfake untuk menghasilkan imej bogel kanak-kanak tidak sepatutnya dibenarkan di sisi undang-undang dan saya menggesa kerajaan mengambil tindakan tegas untuk mengharamkannya. Alat sedemikian tiada tempat dalam masyarakat kita.

Di Jepun, peguam berkata mereka melihat semakin banyak kes remaja lelaki disiasat atas kesalahan seksual yang berkaitan dengan kegiatan deepfake atau kandungan eksplisit yang dikongsi dalam sembang kumpulan. Pakar mengingatkan bahawa ramai remaja tidak memahami implikasi undang-undang atau kemudaratan terhadap rakan sebaya sehinggalah polis datang atau proses disiplin sekolah menjadikannya nyata. Jurang ini menunjukkan perlunya peraturan yang jelas, pendidikan di sekolah dan perlindungan platform yang kukuh.

Tindakan global dan pengajaran untuk Jepun

Negara lain telah mengambil langkah untuk menutup kelompongan undang-undang. Korea Selatan meluluskan rang undang-undang pada September 2024 yang menjadikan penghasilan imej seksual deepfake kanak-kanak bawah umur, serta menonton atau memilikinya, sebagai kesalahan jenayah. Di Amerika Syarikat, undang-undang persekutuan yang digubal pada Mei 2025 melarang penyiaran imej atau video eksplisit seksual tanpa persetujuan individu yang digambarkan dan mewajibkan platform memadam kandungan sedemikian dalam tempoh 48 jam selepas menerima permintaan mangsa. Banyak negeri di AS turut mengemas kini undang-undang supaya gambaran kanak-kanak bawah umur dalam perlakuan seksual yang diubah suai atau dijana AI dikategorikan sebagai bahan penderaan seksual kanak-kanak yang menyalahi undang-undang, walaupun tiada kanak-kanak sebenar terlibat dalam perbuatan yang digambarkan. Langkah di peringkat negeri itu merupakan tindak balas terhadap keputusan mahkamah AS terdahulu yang membezakan kandungan maya sepenuhnya daripada imej yang dihasilkan menggunakan kanak-kanak sebenar.

Di Eropah, pihak penguat kuasa undang-undang bekerjasama merentasi sempadan. Europol menyelaraskan Operasi Cumberland, antara operasi global pertama yang menyasarkan bahan penderaan seksual kanak-kanak janaan AI. Dengan sokongan 19 negara, polis mengenal pasti ratusan suspek, membuat berpuluh-puluh tangkapan dan menggeledah rumah untuk melumpuhkan platform yang mengedarkan imej kanak-kanak bawah umur yang sepenuhnya dihasilkan secara buatan. Penyiasat berkata AI kini membolehkan individu yang mempunyai kemahiran terhad menghasilkan kandungan penderaan dalam jumlah besar, dan memberi amaran bahawa kaedah tradisional untuk mengenal pasti mangsa atau mengesan sumber asal sering gagal apabila imej itu sintetik. Pengarah eksekutif Europol, Catherine De Bolle, menekankan perlunya kaedah penyiasatan baharu yang sesuai untuk kandungan janaan AI.

Imej janaan AI mudah dihasilkan oleh individu yang berniat melakukan jenayah, sekali gus meningkatkan jumlah bahan penderaan dan menyukarkan usaha mengenal pasti pesalah atau mangsa.

Di Jepun, polis baru-baru ini membuat tangkapan pertama berkaitan penjualan poster lucah janaan AI yang menggambarkan wanita dewasa rekaan melalui lelongan dalam talian, menandakan bahawa undang-undang kelucahan sedia ada boleh digunakan terhadap sesetengah bentuk penyalahgunaan AI. Seorang suspek dilaporkan memperoleh kira-kira 10 juta yen dalam tempoh setahun. Kes melibatkan kanak-kanak mempunyai halangan tambahan, sebab itulah pakar dan kumpulan perlindungan kanak-kanak menggesa penggubalan peraturan kebangsaan yang jelas untuk merangkumi gambaran seksual janaan AI melibatkan kanak-kanak bawah umur, sama ada berdasarkan foto sebenar atau sepenuhnya sintetik.

Tindakan yang boleh diambil keluarga, sekolah dan platform sekarang

Sementara penggubal dasar membahaskan pembaharuan, langkah praktikal boleh diambil untuk mengurangkan risiko dan bertindak lebih pantas apabila penyalahgunaan berlaku. Langkah ini tertumpu pada persetujuan, akses kepada foto, saluran pelaporan dan sokongan kesihatan mental.

• Hadkan penyebaran foto pelajar. Sekolah boleh mengehadkan perkongsian album kelas dan galeri acara kepada penjaga yang disahkan, menggunakan pautan yang tamat tempoh dan meletakkan tanda air pada imej yang keluar daripada saluran rasmi.
• Ajarkan persetujuan dan etika digital sejak awal. Masukkan celik AI dan media dalam kelas guru tingkatan atau teknologi, termasuk perbincangan terus terang tentang deepfake, privasi dan kemudaratan yang disebabkan oleh imej sedemikian.
• Tetapkan peraturan jelas untuk sembang kumpulan. Kelab dan kelas pelajar patut menetapkan kod tingkah laku bagi aplikasi pemesejan, berserta tindakan yang jelas terhadap perkongsian kandungan eksplisit atau berunsur gangguan.
• Beri kuasa kepada pelajar untuk membuat laporan segera. Mudahkan mereka memaklumkan orang dewasa yang dipercayai, pihak sekolah dan platform apabila imej penderaan muncul. Laporan pantas mengecilkan tempoh imej itu tersebar.
• Bekerjasama dengan pihak penguat kuasa. Walaupun pilihan undang-undang tidak jelas, serahkan bukti kepada polis supaya mereka boleh memberi nasihat mengenai fitnah, privasi atau ordinan tempatan yang mungkin terpakai.
• Libatkan platform. Gunakan alat terbina dalam untuk melaporkan imej seksual yang dikongsi tanpa persetujuan dan meminta kandungan itu diturunkan. Simpan rekod pautan, cap masa dan nama pengguna.
• Sokong kesihatan mental mangsa. Tawarkan kaunseling sulit dan libatkan penjaga dengan segera. Jangan paksa mangsa berdepan dengan rakan sebaya untuk membuktikan bahawa imej itu palsu.
• Kurangkan jejak data peribadi. Galakkan pelajar menjadikan akaun mereka peribadi, memadam hantaran lama dan mengelakkan perkongsian foto wajah beresolusi tinggi yang dikaitkan dengan butiran sekolah atau lokasi.
• Amalkan kaedah perkongsian foto yang lebih selamat. Apabila berkongsi foto pasukan atau kelas, pertimbangkan gambar dari jarak lebih jauh, kurangkan foto jarak dekat yang menonjolkan wajah dan hadkan kebenaran untuk mengedarkan semula.

Bagi syarikat teknologi, langkah perlindungan merangkumi penapis kukuh bagi arahan dan muat naik, sekatan lalai terhadap ciri untuk menelanjangkan imej, pengesahan umur yang mantap dan saluran pemadaman segera yang berfungsi merentas produk. Ketelusan tentang kelemahan yang diketahui dan pembaikan yang telah dilaksanakan membantu membina semula kepercayaan. Kontroversi baru-baru ini melibatkan chatbot arus perdana yang menghasilkan imej berunsur seksual seorang selebriti berusia 16 tahun menunjukkan betapa pantas kelemahan reka bentuk boleh mencetuskan amaran daripada pengawal selia dan bantahan orang ramai.

Perkara Utama

• Polis Jepun menerima semakin banyak laporan bahawa kanak-kanak bawah umur menghasilkan dan berkongsi deepfake seksual janaan AI rakan sekelas menggunakan foto sekolah dan imej dalam sembang kumpulan.
• Sepanjang tahun lalu, lebih 100 aduan dan laporan dibuat di seluruh negara, dengan sekurang-kurangnya 17 kes berkaitan acara sekolah dan album graduasi.
• Pendakwaan kes deepfake sukar dilakukan di bawah undang-undang kebangsaan semasa yang tertumpu pada imej kanak-kanak sebenar. Polis kerap menggunakan undang-undang lain seperti fitnah.
• Agensi Polis Kebangsaan menyiasat kira-kira 10 laman web dan aplikasi penjana imej yang popular serta merancang menggunakan hasil siasatan untuk penyiasatan jenayah dan pendidikan golongan muda.
• Pakar berkata sistem undang-undang tidak berkembang seiring dengan teknologi. Pakar akademik menggesa peraturan kebangsaan yang jelas supaya imej seksual deepfake kanak-kanak bawah umur dilayan sama seperti bahan penderaan seksual kanak-kanak yang menyalahi undang-undang.
• Di peringkat antarabangsa, Korea Selatan, Amerika Syarikat, United Kingdom dan Australia telah mengambil langkah untuk mengawal imej seksual janaan AI, termasuk mewajibkan pemadaman pantas dan mewujudkan kesalahan baharu.
• Operasi Cumberland Europol menyasarkan rangkaian yang mengedarkan kandungan penderaan kanak-kanak yang dijana sepenuhnya oleh AI dan mengetengahkan cabaran penyiasatan apabila tiada kanak-kanak sebenar digambarkan.
• Sekolah, keluarga dan platform boleh mengurangkan kemudaratan dengan mengetatkan akses kepada foto, mengajar celik AI, menguatkuasakan peraturan sembang, memudahkan pelaporan dan menyediakan kaunseling untuk mangsa.