Label kecil di tengah-tengah masalah yang semakin meruncing
Pelakon Janhvi Kapoor, Keerthy Suresh dan Sunainaa membantah penyalahgunaan rupa mereka dalam deepfake kecerdasan buatan, dengan memberi amaran akan mengambil tindakan undang-undang susulan penyebaran imej dan video yang tidak senonoh. Pengalaman mereka menimbulkan persoalan praktikal kepada platform media sosial: sejauh manakah mudahnya penonton mengenal pasti apabila seseorang di skrin telah direka secara digital?
Kandungan
CB Arun Kumar, pakar kesan visual serta dekan komunikasi, filem dan permainan di Pearl Academy, menggesa penggubalan undang-undang yang mewajibkan label yang jelas dan ketara pada kandungan yang dihasilkan menggunakan AI. Beliau berpendapat notis sedia ada mungkin terlalu mudah terlepas pandang, menyebabkan bahan palsu kelihatan seperti foto, rakaman atau peristiwa berita yang sahih.
Tag AI Info Instagram menjadi tumpuan kritikannya. Beliau berkata notis itu muncul dalam teks kecil antara nama pengguna akaun dengan imej atau video yang dimuat naik. Kebimbangannya berkaitan keterlihatan: pendedahan itu tidak banyak membantu penonton yang menatal tanpa menyedarinya.
Arun Kumar menjelaskan sebab beliau mahukan syarat pelabelan yang lebih tegas:
Kita memerlukan undang-undang lebih ketat yang mewajibkan pelabelan kandungan AI dengan jelas dan ketara, supaya kandungan itu tidak lagi boleh menyamar sebagai berita, seperti sesetengah klip bencana yang tersebar luas di internet. Masalah sebenar timbul apabila penonton tidak lagi dapat membezakan perkara yang benar daripada yang palsu.
Cadangan beliau menangani dua masalah yang saling berkait. Pelakon mengalami kemudaratan peribadi apabila identiti mereka digunakan dalam bahan yang tidak senonoh. Penonton pula berisiko menerima adegan rekaan sebagai sesuatu yang benar-benar berlaku. Label yang jelas akan memberikan maklumat kepada penonton sebaik sahaja mereka melihat imej itu, sebelum memutuskan sama ada untuk mempercayai atau berkongsinya.
Apa yang berlaku kepada para pelakon?
Kapoor, Suresh dan Sunainaa antara pelakon yang meluahkan rasa terkejut atau membantah selepas rupa mereka muncul dalam gambar atau video deepfake yang tidak senonoh. Reaksi mereka termasuk amaran untuk mengambil tindakan undang-undang terhadap pihak yang bertanggungjawab atas penyalahgunaan itu.
Deepfake ialah imej, video atau rakaman audio yang dihasilkan atau diubah menggunakan AI supaya seseorang kelihatan melakukan atau mengatakan sesuatu yang tidak pernah dilakukan atau dikatakannya. Dalam kes pelakon, ciri wajah yang mudah dikenali boleh menjadikan bahan palsu itu kelihatan meyakinkan walaupun individu itu tidak pernah terlibat dalam penghasilannya.
Masalah utama ialah kawalan terhadap identiti. Pelakon boleh memilih watak yang ingin dibawakan, foto yang ingin diterbitkan dan produk yang ingin dipromosikan. Imej rekaan boleh meletakkan pelakon yang sama dalam adegan yang tidak pernah dipersetujui, sedangkan penonton mungkin pada mulanya menyangka imej itu tulen.
Arun Kumar menuntut keperluan undang-undang yang lebih tegas, bukannya mengumumkan bahawa peraturan baharu sudah berkuat kuasa. Tiada rang undang-undang khusus, tarikh akhir penguatkuasaan atau hukuman yang dicadangkan dinyatakan dalam ulasan beliau.
Imej palsu sudah wujud sebelum AI
Arun Kumar meletakkan kebimbangan semasa dalam konteks sejarah lebih panjang tentang imej hiburan yang dimanipulasi. Sebelum kemunculan alat AI masa kini, orang ramai boleh menggunakan pelakon pengganti, Photoshop dan teknik kesan visual seperti pengklonan dan morf untuk mencipta adegan palsu.
Pengklonan menyalin unsur dalam imej atau jujukan. Morf mengubah satu imej menjadi imej yang lain, termasuk mengubah wajah atau rupanya. Kedua-duanya boleh digunakan untuk tujuan sah dalam penerbitan filem, yang penontonnya menjangkakan adegan yang direka. Masalah timbul apabila bahan yang dimanipulasi dipersembahkan sebagai rekod sebenar tentang perlakuan seseorang.
AI memberi orang ramai satu lagi cara untuk menghasilkan bahan sedemikian, termasuk kepada mereka yang mahu meraih keuntungan kewangan dengan pantas daripada perhatian dan penyebarannya. Arun Kumar berpendapat teknologi itu perlu dinilai berdasarkan penggunaannya, manakala pihak yang bertanggungjawab menghasilkan kandungan tidak senonoh perlu berdepan dengan saluran undang-undang sedia ada.
Arun Kumar berkata undang-undang sedia ada sudah menyediakan saluran untuk memohon supaya kandungan diturunkan:
Sudah banyak saluran undang-undang untuk menurunkan kandungan tidak senonoh seperti itu.
Penurunan kandungan dan pelabelan menangani peringkat yang berbeza dalam rantaian yang sama. Permohonan penurunan bertujuan menghentikan imej daripada terus tersedia selepas ia dipertikaikan. Label yang ketara membantu orang ramai menilainya ketika imej itu masih terpapar pada skrin. Hujah beliau menumpukan perhatian pada kedua-dua tugas: menangani bahan yang memudaratkan dan memudahkan orang ramai mengenal pasti asal-usul buatannya.
Mengapa saiz label penting
Notis AI kecil di Instagram menunjukkan jurang antara menyediakan pendedahan dengan menjadikannya berguna. Arun Kumar mahu platform memaparkan maklumat itu dengan cukup ketara supaya penonton biasa dapat melihatnya tanpa perlu mencari-cari di sekitar imej.
Klip bencana palsu menunjukkan sebab perkara itu penting di luar budaya selebriti. Seseorang yang menonton apa yang kelihatan seperti rakaman kecemasan sebenar perlu tahu sama ada adegan itu dijana. Jika tidak, imej itu boleh membentuk pandangan mereka tentang peristiwa yang tidak pernah berlaku seperti yang digambarkan.
Bagi pelakon, isu yang sama lebih bersifat peribadi. Wajah mereka menjadikan imej palsu itu mudah dikenali dan menarik perhatian. Penonton yang terlepas pandang label mungkin mengaitkan adegan itu dengan pelakon berkenaan sebelum mengetahui cara imej itu dihasilkan.
Oleh itu, tuntutan Arun Kumar melibatkan cara maklumat dipersembahkan, bukan sekadar kewujudannya. Platform boleh meletakkan notis di sebelah hantaran, namun saiz dan kedudukannya tetap mempengaruhi sama ada notis itu sampai kepada penonton. Piawaian yang beliau mahukan jelas: asal-usul buatan itu perlu mudah dilihat.
Persetujuan ialah isu berasingan bagi pengkarya
Arun Kumar juga membezakan antara menolak AI secara keseluruhan dengan membantah penggunaan karya seseorang pengkarya tanpa kebenaran. Yang pertama ialah penilaian terhadap seluruh teknologi. Yang kedua berkaitan cara bahan tertentu diperoleh dan digunakan.
Latihan ialah proses yang membolehkan sistem AI mempelajari corak daripada contoh, yang mungkin merangkumi gambar, teks, bunyi atau video. Pengkarya yang bimbang tentang latihan mempersoalkan apa yang berlaku apabila karya kreatif mereka menjadi sebahagian daripada proses itu tanpa persetujuan mereka.
Isu itu melangkaui deepfake yang kelihatan. Pelakon mungkin membantah imej rekaan yang memaparkan dirinya, manakala ilustrator atau pencipta lain mungkin membantah penggunaan karya mereka untuk membangunkan sistem yang menghasilkan imej baharu. Pihak yang terjejas dan perbuatan yang dibantah mungkin berbeza.
Arun Kumar berpendapat kecaman menyeluruh terhadap AI mengabaikan perbezaan tersebut. Pendirian beliau memberi ruang kepada penggunaan kreatif yang sah sambil mengambil serius bantahan tentang kebenaran. Bagi pembaca, persoalan yang berguna bersifat konkrit: identiti siapa yang dipaparkan, karya siapa yang digunakan dan apakah kebenaran yang diberikan?
Seniman digital berdepan tekanan terhadap pendapatan
Menurut Arun Kumar, artis grafik yang berkarya merentas bidang media, perniagaan, filem, televisyen, seni bina dan fesyen berdepan satu lagi kesan daripada perkembangan AI. Kebimbangan mereka ialah kemampuan untuk mencari nafkah apabila syarikat boleh menghasilkan sesetengah jenis bahan visual dengan lebih pantas.
Arun Kumar berkata nilai komersial kerja yang memerlukan usaha manusia yang teliti semakin merosot apabila hasil AI menjadi pilihan saingan. Pelanggan yang menentukan cara menghasilkan imej mungkin mempertimbangkan kelajuan dan kos selain kemahiran serta pertimbangan seseorang artis.
Tekanan itu juga boleh mempengaruhi cara hasil kerja manusia dinilai. Arun Kumar memberi amaran bahawa imej yang dihasilkan dengan teliti mungkin dibandingkan dengan hasil AI yang berkualiti rendah. Bagi artis, ini bermakna mereka perlu menerangkan nilai karya dalam pasaran yang semakin mendedahkan penonton dan pelanggan kepada kedua-duanya.
Arun Kumar menjelaskan tekanan terhadap pekerjaan serta nasihatnya kepada artis:
Hakikatnya, revolusi AI menyebabkan mereka kehilangan pekerjaan kerana AI boleh melakukan kerja itu dengan lebih pantas. Artis tulen yang boleh menggunakan AI sebagai satu lagi alat dalam aliran kerja mereka akan bertahan dan berkembang maju.
Aliran kerja ialah urutan langkah untuk menyiapkan projek kreatif, daripada idea awal hingga imej atau filem siap. Nasihat beliau ialah mempelajari cara AI boleh disepadukan dalam proses itu, sambil terus menerapkan pilihan dan kemahiran manusia dalam hasil kerja.
Ramalan beliau optimistik terhadap artis yang mampu menyesuaikan diri, namun pandangannya turut mengakui tekanan segera yang dihadapi mereka yang bergantung pada tugasan yang boleh dipercepat oleh AI untuk memperoleh pendapatan. Pelakon yang mencari perlindungan daripada imej rekaan dan artis yang berdepan persaingan lebih murah mengalami kesan berbeza daripada perubahan teknologi yang sama.
Kesimpulan
- Janhvi Kapoor, Keerthy Suresh dan Sunainaa antara pelakon yang membantah penyalahgunaan rupa mereka dalam deepfake.
- Dekan Pearl Academy dan pakar VFX CB Arun Kumar mahu undang-undang mewajibkan label yang jelas dan ketara pada kandungan AI.
- Beliau berpendapat notis kecil, termasuk tag AI Info Instagram, terlalu mudah terlepas pandang oleh penonton.
- Beliau menyokong tindakan terhadap penggunaan AI yang memudaratkan dan membangkitkan kebimbangan tentang penggunaan karya artis tanpa persetujuan.
- Beliau berkata artis digital berdepan tekanan terhadap pendapatan dan perlu belajar menggabungkan AI dalam proses kreatif mereka.
