Mahkamah Agung India Arahkan Pangkalan Data Bersama untuk Memadam Bahan Penderaan Seksual Kanak-kanak, Tolak Larangan Internet Menyeluruh

Sistem pengesanan bersama, kanak-kanak masih dibenarkan dalam talian

Mahkamah Agung India mengarahkan kerajaan Kesatuan mewujudkan Pangkalan Data Senarai Hash dan URL Kebangsaan bagi membantu platform mengenal pasti dan memadam bahan eksploitasi dan penderaan seksual kanak-kanak yang telah disahkan merentas perkhidmatan. Setiap entri mesti dinilai secara bebas oleh sekurang-kurangnya tiga penganalisis manusia terlatih, dan pangkalan data itu akan menyimpan pengecam digital serta alamat internet, bukannya imej atau video penderaan itu sendiri.

Perintah setebal 136 halaman, bertarikh 15 Oktober 2026, turut menetapkan tarikh akhir pelaporan bagi syarikat media sosial, menuntut sistem aduan yang mudah diakses serta menyeru pendidikan keselamatan digital di sekolah. Kerajaan mesti mengemukakan afidavit yang menerangkan kemajuan pelaksanaan sebelum pendengaran seterusnya pada 10 Disember 2026.

Hakim J. B. Pardiwala dan K. Vinod Chandran mengeluarkan arahan itu dalam kes Just Rights for Children Alliance & Anr. v. S. Harish & Ors., susulan permohonan yang mendakwa kegagalan mematuhi penghakiman mahkamah bertarikh 23 September 2024.

Panel hakim menggabungkan tanggungjawab lebih tegas terhadap syarikat teknologi dengan dapatan berperlembagaan: kanak-kanak mempunyai hak asasi untuk mengakses dan menggunakan internet. Panel itu enggan menyokong sekatan menyeluruh berdasarkan umur, sebaliknya mengutamakan bimbingan ibu bapa, tetapan akaun yang lebih selamat dan tindakan terhadap pihak yang menghasilkan, menyebarkan atau meraih keuntungan daripada bahan penderaan.

Mengapa tindakan pemadaman berasingan oleh platform masih tidak mencukupi

Mahkamah mengenal pasti kelemahan praktikal dalam sistem sedia ada. Apabila sesebuah syarikat mengesan dan memadam bahan penderaan, platform lain mungkin masih menyiarkan imej, video atau pautan yang sama kerana belum mengenal pastinya secara bebas.

Peraturan 4(4) Peraturan Teknologi Maklumat (Garis Panduan Perantara dan Kod Etika Media Digital), 2021 merujuk kepada kandungan yang sebelum ini dipadam daripada sumber komputer perantara berkenaan sendiri. Panel hakim menganggap pendekatan itu terlalu sempit untuk menyokong pengesanan terselaras merentas perkhidmatan.

Permohonan itu turut menyorot dakwaan promosi berbayar yang mengarahkan pengguna kepada bahan penderaan melalui pautan dan laman web luaran. Daripada 84 iklan yang diperiksa di India, 55 dilaporkan melalui sistem pelaporan sesebuah platform. Daripada 55 iklan itu, 43 didapati mematuhi piawaian pengiklanannya, kira-kira 78 peratus daripada iklan yang dilaporkan.

Bagi mahkamah, masalah itu melibatkan muat naik berulang serta saluran yang digunakan untuk mengarahkan pengguna kepada eksploitasi. Oleh itu, rangka kerjanya merangkumi pengenalpastian bahan yang diketahui, pemeriksaan alamat luaran, pelaporan kepada polis dan penelitian terhadap wang yang diperoleh melalui pengedaran.

Cara pangkalan data kebangsaan itu berfungsi

Pangkalan Data Senarai Hash dan URL Kebangsaan boleh beroperasi dalam Portal Sahyog milik Pusat Penyelarasan Jenayah Siber India, yang dikenali sebagai I4C, atau sebagai repositori berasingan. Sahyog kini menyalurkan aduan dan notis pemadaman; pangkalan data yang dicadangkan akan menambah sistem rujukan bersama untuk mengesan bahan penderaan yang telah disahkan.

Hash ialah pengecam digital yang dijana daripada fail, seumpama cap jari. Platform boleh membandingkan pengecam untuk mengenal pasti bahan yang telah dikesan di tempat lain. Hash persepsi melangkah lebih jauh dengan membantu mengesan imej atau video serupa selepas perubahan seperti saiz semula atau pemformatan semula.

URL ialah alamat internet. Penyertaan alamat ini dalam senarai membantu platform mengambil tindakan terhadap pautan yang menghantar pengguna ke lokasi diketahui yang mengehos bahan penderaan, termasuk apabila bahan itu disimpan di luar platform yang membawa pautan berkenaan.

Kerajaan mesti membangunkan garis panduan atau prosedur operasi standard untuk perantara media sosial besar menggunakan padanan hash persepsi dan penyenaraian URL. Mahkamah mengutamakan panduan yang boleh disemak secara berkala sejajar dengan perubahan teknologi.

Platform akan menyemak perkhidmatan mereka berdasarkan entri pangkalan data, manakala agensi penguatkuasaan undang-undang akan menggunakan pengecam bersama itu untuk mencari bahan sepadan di tempat lain dalam talian. Oleh itu, penemuan yang disahkan boleh menyokong tindakan merentas beberapa perkhidmatan, tanpa perlu memulakan proses pengesanan baharu di setiap syarikat.

Tiga penilaian manusia sebelum entri diterima

Mahkamah mewajibkan beberapa peringkat pengesahan sebelum bahan boleh dimasukkan dalam pangkalan data. Perisian boleh menjalankan saringan awal, tetapi sekurang-kurangnya tiga penganalisis manusia terlatih mesti masing-masing menilai secara bebas sama ada bahan itu merupakan bahan eksploitasi dan penderaan seksual kanak-kanak, atau CSEAM.

Entri mesti diserahkan melalui saluran yang disulitkan. Repositori hanya boleh menyimpan hash dan URL berkaitan, berserta rekod penilaian, log akses dan audit bebas. Entri yang tidak tepat mesti dipadam dengan segera.

Orang yang terjejas oleh pemadaman berdasarkan entri pangkalan data mesti mempunyai akses kepada proses aduan. Notis pemadaman hendaklah menerangkan asas tindakan itu supaya seseorang tahu sama ada perlu menghubungi platform atau badan yang mengurus pangkalan data.

Langkah perlindungan ini menghubungkan sistem pengesanan bersama yang berkuasa dengan saluran untuk membetulkan kesilapan. Oleh sebab sesuatu entri boleh mencetuskan tindakan merentas platform, ketepatan penilaian awal penting bagi setiap pemadaman seterusnya.

Tindakan manakah yang perlu dilaporkan dalam masa dua jam?

Mahkamah menetapkan prosedur berbeza bagi bahan yang baru dikenal pasti dan bahan yang sudah disenaraikan dalam pangkalan data kebangsaan. Dalam rangka kerja ini, bahan yang tidak diketahui asal usulnya bermaksud kandungan yang sedang dinilai melalui proses pengesanan atau aduan platform sendiri. Bahan yang diketahui pula ialah kandungan yang sepadan dengan entri pangkalan data yang telah disahkan.

• Apabila platform mengesan dan memadam secara bebas bahan yang tidak diketahui asal usulnya, pemadaman itu mesti dilaporkan dalam masa dua jam.
• Apabila pemadaman dibuat susulan aduan, platform mesti melaporkannya sebaik sahaja aduan diselesaikan, dan selewat-lewatnya dalam masa dua jam selepas penyelesaian itu.
• Apabila kandungan sepadan dengan entri pangkalan data sedia ada, platform mesti menyahaktifkan dan memadamkannya serta-merta, kemudian mengemukakan laporan gabungan bagi pemadaman sedemikian setiap minggu.

Platform mesti mengesahkan bahan yang baru dikenal pasti sebelum memadam dan melaporkannya melalui proses ini. Mereka mesti memaklumkan pihak berkuasa yang ditetapkan di bawah undang-undang India, termasuk Unit Polis Khas Juvana, polis tempatan atau portal jenayah siber, mengikut kesesuaian di bawah Peraturan 11 Peraturan Perlindungan Kanak-kanak daripada Kesalahan Seksual, 2020. Badan yang ditetapkan untuk pangkalan data itu juga mesti dimaklumkan sekiranya ia pihak berkuasa yang berbeza.

Tarikh akhir dua jam itu berkaitan pelaporan selepas pemadaman atau penyelesaian aduan. Prosedur pelaporan mingguan terpakai bagi padanan dengan bahan yang telah disahkan dalam pangkalan data, selain kewajipan memadamkannya serta-merta.

Penghakiman September 2024 sebelum ini telah mengaitkan kewajipan pelaporan dengan Seksyen 79 Akta Teknologi Maklumat, 2000. Seksyen itu memberikan perlindungan bersyarat, yang lazim disebut sebagai perlindungan pelabuhan selamat, daripada liabiliti terhadap bahan yang disiarkan pengguna. Mahkamah memutuskan bahawa perantara mesti menjalankan usaha wajar dan mematuhi kewajipan pelaporan di bawah undang-undang perlindungan kanak-kanak untuk menuntut perlindungan tersebut.

Aduan mesti dikendalikan oleh petugas terlatih

Platform mesti menyediakan kategori pelaporan CSEAM yang berasingan, dinamakan dengan jelas dan boleh dicapai dalam dua langkah. Pelaporan mesti mengekalkan kerahsiaan tanpa mewajibkan butiran peribadi, manakala maklumat pegawai aduan mesti mudah dicari di laman web dan aplikasi.

Setiap aduan mesti menerima pengesahan penerimaan dalam masa 24 jam serta nombor rujukan. Pegawai aduan terlatih mesti menyemaknya, dan pengadu mesti menerima keputusan serta alasannya. Alat automatik boleh membantu saringan awal, sementara pegawai terlatih kekal bertanggungjawab menyemak aduan tersebut.

Mahkamah turut menyeru laporan dalam format seragam yang boleh diproses oleh sistem komputer. Pelaporan yang konsisten akan membekalkan maklumat dalam bentuk yang boleh digunakan oleh pihak berkuasa, tanpa memaksa mereka menyelaraskan format berbeza daripada setiap syarikat.

Kerajaan Kesatuan diminta memperluas keperluan akauntabiliti merentas perantara melalui pindaan sewajarnya kepada Peraturan IT. Bagi pengguna, perubahan yang dimaksudkan jelas: saluran pelaporan yang mudah diakses, aduan yang boleh dijejaki dan keputusan yang menerangkan tindakan yang diambil.

Pendapatan pengiklanan dan langganan diteliti

Panel hakim mengarahkan perantara menghalang CSEAM dan bahan berbahaya lain yang dilarang daripada ditawarkan, dihoskan, dimuat naik, dipromosikan atau diedarkan melalui paywall atau langganan, secara langsung atau tidak langsung. Paywall ialah sekatan pembayaran yang perlu dilepasi pengguna untuk mengakses kandungan.

Mahkamah menyatakan bahawa hasil yang diperoleh daripada bahan terlarang yang diedarkan melalui perkhidmatan berkenaan perlu dilucut hak dan diserahkan. Mahkamah meminta kerajaan membangunkan rangka kerja yang diperlukan serta mempertimbangkan penalti kewangan teladan bagi pelanggaran kewajipan di bawah Akta IT dan peraturannya.

Jumlah penalti hendaklah mengambil kira keseriusan, tempoh dan pengulangan pelanggaran, serta saiz dan perolehan syarikat. Ini membolehkan tindakan mengambil kira kedua-dua kegagalan berulang dan skala perniagaan yang bertanggungjawab.

Perintah itu turut menangani bahan elektronik yang membolehkan eksploitasi, termasuk iklan bagi alat yang memanipulasi imej menjadi bahan penderaan atau mengarahkan pengguna kepadanya. Mahkamah menganggap skop kawal selia Akta IT dan Peraturannya merangkumi lebih daripada gambaran visual semata-mata, dengan merujuk kepada Seksyen 67B(d) dan Peraturan 3(1)(b).

Sebelum perintah itu dikeluarkan, Kementerian Elektronik dan Teknologi Maklumat memaklumkan mahkamah bahawa pihaknya telah mengeluarkan notis kepada pegawai pematuhan Meta pada Julai 2026 berhubung iklan berbayar yang mempromosikan CSEAM. Prosiding itu masih berjalan. Keterangan kerajaan turut menyatakan bahawa selepas perbincangan, Google dan Meta bersetuju melaporkan kes secara langsung kepada agensi penguatkuasaan undang-undang India.

Mengapa mahkamah menolak larangan menyeluruh untuk kanak-kanak

Panel hakim mengiktiraf akses dan penggunaan internet sebagai hak asasi di bawah Perkara 21, yang melindungi kehidupan dan kebebasan diri, dibaca bersama Perkara 19(1)(a), yang melindungi kebebasan bersuara dan berekspresi. Panel itu menyatakan bahawa kanak-kanak menikmati hak ini tanpa mengira usia.

Hakim Pardiwala dan Chandran menjelaskan hubungan antara perlindungan dengan akses dalam perintah mereka:

Keselamatan dan kebebasan anak-anak kita tidak bercanggah antara satu sama lain. Anak-anak kita berhak menikmati kedua-duanya.

Mahkamah berpendapat kanak-kanak mungkin terus menggunakan internet secara rahsia selepas larangan dikenakan, lalu beralih kepada perkhidmatan yang kurang dikawal selia. Kanak-kanak yang berdepan ancaman atau manipulasi mungkin teragak-agak untuk mendapatkan bantuan kerana takut dihukum akibat melayari internet.

Panel hakim turut membangkitkan kebimbangan privasi terhadap sistem yang mewajibkan setiap pengguna membuktikan usia melalui pengumpulan dan pemantauan maklumat sensitif secara meluas. Sebaliknya, panel itu mencadangkan persetujuan, bimbingan dan pengawasan ibu bapa, berserta mod khusus untuk kanak-kanak.

Tetapan yang mungkin termasuk akaun yang ditetapkan kepada mod privasi secara lalai, had hubungan daripada orang dewasa yang tidak dikenali serta kawalan terhadap pengiklanan dan kandungan. Bagi kanak-kanak yang belum memasuki usia remaja, mahkamah mencadangkan kaedah berkadar untuk mengesahkan persetujuan ibu bapa. Mahkamah menyerahkan aturan terperinci kepada kerajaan Kesatuan dan membenarkan sekatan bersasar terhadap perkhidmatan yang sememangnya berbahaya, termasuk laman web kandungan dewasa.

Sekolah sebahagian daripada pelan perlindungan

Mahkamah mengarahkan agar pendidikan keselamatan digital dan pendidikan seks yang sesuai mengikut umur menjadi sebahagian daripada kurikulum teras. Pelajaran perlu meliputi persetujuan, sentuhan selamat dan tidak selamat, hubungan sihat, perlindungan maklumat peribadi, eksploitasi dalam talian serta cara melaporkan penderaan.

Majlis Kebangsaan Penyelidikan dan Latihan Pendidikan serta Majlis Negeri bagi Penyelidikan dan Latihan Pendidikan hendaklah membangunkan kandungan itu bersama ahli psikologi kanak-kanak, pendidik dan pakar keibubapaan. Mahkamah turut menyeru agar nombor talian bantuan dipaparkan di sekolah dan program kesedaran dimulakan pada peringkat sekolah rendah.

Bagi kanak-kanak, ini bermakna mereka akan belajar mengenal pasti bahaya dan memberitahu orang dewasa yang dipercayai, di samping langkah teknikal yang dijangka dilaksanakan syarikat. Komponen pendidikan itu menangani keadaan apabila kanak-kanak berdepan manipulasi atau tingkah laku mengancam sebelum sebarang imej atau pautan dikenal pasti oleh platform.

Istilah yang digunakan mahkamah turut mencerminkan tumpuan terhadap kemudaratan itu. Dalam penghakiman September 2024, mahkamah meminta Parlimen mempertimbangkan untuk menggantikan istilah "pornografi kanak-kanak" dalam Akta POCSO dengan istilah yang menggambarkan bahan eksploitasi dan penderaan seksual kanak-kanak, agar sifat kesalahan itu dapat dinyatakan dengan lebih tepat.

Perkara yang perlu dilakukan kerajaan sebelum 10 Disember

Kementerian Elektronik dan Teknologi Maklumat serta Kementerian Undang-undang dan Keadilan mesti mengambil langkah untuk melaksanakan rangka kerja itu melalui garis panduan, prosedur operasi standard dan pindaan sewajarnya kepada Peraturan IT serta, jika perlu, Akta IT. Afidavit kerajaan mesti menerangkan kemajuan pelaksanaan, termasuk alat teknologi yang sedang digunakan oleh perantara.

MeitY sebelum ini telah mengemukakan draf prosedur yang disediakan bersama Kementerian Pembangunan Wanita dan Kanak-kanak, Kementerian Dalam Negeri, Jabatan Telekomunikasi dan pihak berkepentingan lain. Peguam Negara Tushar Mehta meminta lebih banyak masa untuk memuktamadkannya.

Prosiding ini berkembang melalui beberapa peringkat:

• 23 September 2024: Mahkamah Agung menyampaikan penghakiman terdahulu mengenai CSEAM, termasuk kewajipan pelaporan perantara.
• Februari 2026: Kerajaan meminda peraturan perantara untuk menambah kewajipan usaha wajar khusus berkaitan CSEAM.
• Julai 2026: MeitY mengeluarkan notis kepada pegawai pematuhan Meta berhubung iklan berbayar yang mempromosikan bahan sedemikian.
• 14 Ogos 2026: Mahkamah merekodkan kebimbangan tentang kegagalan pematuhan yang serius.
• 15 Oktober 2026: Panel hakim mengeluarkan rangka kerja pangkalan data, pelaporan, pendidikan dan akauntabiliti.
• 10 Disember 2026: Mahkamah dijadual mendengar semula perkara itu, dan afidavit kemajuan kerajaan perlu dikemukakan sebelum tarikh tersebut.

Perintah itu tidak menetapkan tarikh pelancaran pangkalan data atau jumlah akhir penalti kewangan. Pada pendengaran Disember, kerajaan perlu menjelaskan langkah yang diambil ke arah pengesanan bersama, pelaporan yang boleh dipercayai dan akses dalam talian yang lebih selamat untuk kanak-kanak.

Perkara Utama

• Pangkalan data kebangsaan akan menyimpan hash dan URL bagi bahan eksploitasi dan penderaan seksual kanak-kanak yang telah disahkan, bukannya bahan itu sendiri.
• Sekurang-kurangnya tiga penganalisis manusia terlatih mesti menilai setiap entri yang dicadangkan secara bebas.
• Pemadaman tertentu mesti dilaporkan dalam masa dua jam; padanan dengan entri pangkalan data sedia ada mesti dipadam serta-merta dan dilaporkan setiap minggu.
• Platform mesti mengesahkan penerimaan aduan dalam masa 24 jam dan menyediakan semakan oleh petugas manusia terlatih.
• Mahkamah melarang pengedaran melalui paywall dan langganan serta menyeru rangka kerja untuk menangani penalti dan hasil daripada kandungan terlarang.
• Kanak-kanak kekal mempunyai hak asasi untuk mengakses internet, dengan perlindungan bersasar diutamakan berbanding larangan menyeluruh.
• Kerajaan mesti melaporkan kemajuan pelaksanaan sebelum pendengaran pada 10 Disember 2026.