PENYALAHGUNAAN teknologi kecerdasan buatan (AI) kini bergerak lebih jauh apabila wujudnya trend penghasilan imej eksplisit yang palsu menggunakan wajah individu sebenar. Imej itu seterusnya dijual secara terbuka di platform media sosial dan laman sembang tertutup. Sesiapa sahaja boleh menggunakan teknologi AI untuk menghasil, mengubahsuai atau memanipulasi imej dan video berunsur seksual, termasuk meniru wajah individu sebenar tanpa kebenaran mereka. Situasi ini mencerminkan penderaan digital terhadap mangsa.
Penggubalan undang-undang baharu yang khusus berkaitan dengan penyalahgunaan AI dilihat mampu menangani permasalahan ini. Penghasilan, penyebaran, atau penjualan imej seksual palsu yang dicipta menggunakan teknologi AI merupakan satu kesalahan jenayah berat. Undang-undang semasa seperti Seksyen 233 Akta Komunikasi dan Multimedia 1998 mungkin boleh diperkasa menjadi lebih kukuh supaya situasi ini dapat ditangani secara menyeluruh.
Platform seperti Facebook, Instagram, TikTok dan Telegram perlu dipertanggungjawabkan untuk memantau kandungan berunsur seksual, terutamanya apabila ia melibatkan mangsa sebenar.
Kerjasama antara kerajaan dan syarikat teknologi perlu diwujudkan agar penapisan automatik dan pelaporan segera boleh dijalankan secara efektif.
Satu unit khusus untuk menyiasat jenayah seksual digital termasuk manipulasi imej menggunakan AI dan pengedarannya di media sosial dari kalangan Polis Diraja Malaysia (PDRM) atau Suruhanjaya Komunikasi dan Multimedia Malaysia (SKMM) mungkin boleh ditubuhkan. Siasatan perlu lebih proaktif dan menggunakan teknologi seiring dengan modus operandi pelaku.
Selain itu, wujudkan pendaftaran akaun media sosial yang lebih selamat dan sahih. Satu mekanisme pengesahan identiti lebih ketat perlu diwujudkan untuk mengelakkan penjenayah siber menggunakan akaun palsu untuk menjual bahan eksplisit ini. Ini termasuk penggunaan nombor telefon sah, dokumen pengenalan atau cap digital untuk mendaftar akaun.
Akhir sekali, paling utama adalah terap kesedaran literasi digital dalam kalangan masyarakat.
Masyarakat perlu dididik tentang kewujudan dan bahaya imej eksplisit menggunakan teknologi AI.
Ramai masih tidak menyedari dengan menyimpan, menyebar atau membeli imej sebegini juga boleh menjadikan seseorang itu bersubahat dalam jenayah tersebut dan boleh dikenakan tindakan undang-undang. Ia juga perlu dimulakan seawal sekolah rendah, menggunakan pendekatan yang sesuai dengan umur.
Pendidikan literasi AI juga boleh diberi lebih penekanan supaya generasi muda lebih memahami risiko penggunaan teknologi ini. Pendidikan dan hukuman mesti berjalan seiring. Kesedaran perlu diberikan sejak awal tetapi hukuman yang tegas harus dikenakan kepada mereka yang menyalahgunakan teknologi ini.
Penyalahgunaan teknologi AI ini bukan sekadar masalah teknologi, bahkan ia adalah satu bentuk krisis moral, sosial dan hak asasi manusia. Semua pihak, sama ada kerajaan, syarikat teknologi, institusi pendidikan, ibu bapa dan masyarakat umum perlu bertindak segera untuk mengawal, mendidik dan menghukum mereka yang menyalahguna teknologi digital ini.
Membendung budaya penyalahgunaan teknologi AI ini menuntut komitmen kolektif daripada semua pihak termasuklah ibu bapa, pendidik, pembuat dasar dan seluruh komuniti demi melindungi generasi masa hadapan daripada terjebak dalam kancah kehancuran yang sukar dipulihkan. Undang-undang sedia ada perlu dikaji semula dan diperkasa untuk menangani kes-kes yang melibatkan imej manipulasi AI dan memastikan pesalah dikenakan hukuman setimpal.-UTUSAN
DR. SITI NASARAH ISMAIL
Pensyarah Kanan
Fakulti Komunikasi dan Pengajian Media
Universiti Teknologi Mara
Kampus Rembau, Cawangan Negeri Sembilan
