PERKEMBANGAN teknologi kecerdasan buatan (AI) yang pesat, dipacu oleh pertambahan kebergantungan terhadap teknologi tersebut telah memberi manfaat yang sangat besar kepada manusia secara amnya, namun dalam pada masa yang sama ia turut menimbulkan pelbagai risiko terhadap kehidupan manusia.
Ini termasuklah mengenai isu diskriminasi tanpa niat manusia, isu ketulusan algoritma, perlanggaran privasi, dan hak asasi, malah yang lebih menggusarkan adalah isu kekaburan liabiliti ataupun kebertanggungjawaban apabila sesebuah keputusan dibuat oleh mesin tanpa penglibatan manusia secara aktif.
Ini sudah tentu mewujudkan satu keperluan yang mendesak bagi menggubal satu perundangan yang khusus bagi mengawal selia akauntabiliti penggunaan AI di Malaysia.
Isu perundangan utama yang dicetuskan oleh AI adalah mengenai akauntabiliti terhadap penggunaan dan penciptaan kandungan melalui AI.
Kekaburan liabiliti perundangan ini sedikit sebanyak telah menyumbang kepada penyalahgunaan teknologi AI khususnya yang bersifat janaan atau generatif. Misalnya,pada Disember 2024, Suruhanjaya Komunikasi dan Multimedia (MCMC) mendedahkan bahawa terdapat peningkatan yang ketara terhadap jumlah kandungan lucah yang dijana oleh AI yang telah diturunkan oleh Suruhanjaya tersebut pada 2024 iaitu 1,225 kandungan berbanding hanya 186 pada 2022. Malah, isu polemik Jalur Gemilang yang timbul mutakhir ini turut memberi petanda bahawa terdapat keperluan untuk penggubalan sebuah perundangan yang menentukan liabiliti khusus terhadap ciptaan yang dijana oleh teknologi AI. Perundangan ini haruslah berperanan untuk menyelesaikan persoalan-persoalan pokok seperti siapakah yang harus dipertanggungjawabkan sekiranya sesebuah sistem AI menyebabkan kerugian, kecederaan, mahupun dalam konteks yang lebih besar, perlanggaran hak asasi manusia?
Namun, teknologi AI mampu bertindak secara autonomi, dimana ia boleh menimbulkan kekaburan terhadap liabiliti perundangan, iaitu dari segi niat, mahupun pelaku sebenar terhadap kesalahan atau kecuaian tersebut.
Terdapat juga kekhuatiran yang berasas terhadap privasi dan perlindungan data peribadi.
Operasi sesebuah sistem AI amat bergantung kepada data berskala besar, sekaligus pengumpulan dan pemprosesan data ini mampu melibatkan maklumat yang sensitif mahupun bersifat peribadi.
Ini membawa kepada risiko pengintipan digital, penyalahgunaan atau ketirisan maklumat.
Kebergantungan berlebihan terhadap teknologi AI turut boleh membawa kepada diskriminasi dan bias secara sengaja mahupun tidak.
Fenomena ini bukan sahaja menjejaskan keadilan sosial, malah bercanggah dengan prinsip kesamarataan di sisi undang-undang.
Teknologi AI juga boleh dimanipulasi bagi tujuan untuk menghasilkan kandungan palsu yang bukan sahaja mampu menjejaskan reputasi peribadi, malah turut boleh mengancam kepentingan awam.
Ini kerana, teknologi AI boleh digunakan bagi menyebarkan mesej kebencian mahupun propaganda yang mampu memberi kesan buruk secara langsung terhadap sistem demokrasi.
Oleh yang demikian, tanpa kawalan perundangan yang sesuai, teknologi AI mampu menjadi alat penyebaran fitnah secara berskala besar.
Kemajuan teknologi janaan AI juga turut mampu memberi ancaman terhadap perlindungan harta intelek dan hak cipta.
Kemampuan teknologi ini yang mampu mencipta lagu, mahupun menulis buku, ataupun mana-mana produk kreatif yang lain turut menimbulkan dilema mengenai siapakah pemilik sebenar karya yang dihasilkan.
Penggunaan teknologi AI secara global telah mencetuskan pelbagai inisiatif perundangan dan etika di peringkat antarabangsa.
Pelbagai negara dan badan antara kerajaan telah mengambil langkah proaktif dalam merangka dasar serta kerangka undang-undang untuk memastikan penggunaan AI adalah selamat, beretika dan bertanggungjawab.
Walaubagaimanapun, Malaysia masih berada di peringkat awal dalam membangunkan perundangan khusus berkaitan teknologi AI.
Inisiatif awal negara terhadap kerangka kawal selia teknologi AI dapat dilihat melalui penggubalan Garis Panduan Negara Tentang Tadbir Urus dan Etika AI yang telah dikeluarkan oleh Kementerian Sains, Teknologi dan Inovasi (MOSTI) pada September 2024.
Dalam masa yang sama, Pejabat AI Kebangsaan (NAIO) turut ditubuhkan pada Disember 2024 bagi membina sebuah ekosistem digital yang kukuh di Malaysia.
Langkah menubuhkan NAIO adalah wajar bagi membuka laluan untuk memastikan kelompongan perundangan tempatan dapat diatasi dan ditangani dengan kadar segera.
Misalnya, Akta Perlindungan Data Peribadi 2010 dilihat sebagai satu perundangan yang kurang komprehensif dalam menangani cabaran penggunaan data oleh sistem AI, terutama berkaitan pemprofilan automatik, pemprosesan data biometrik, dan keputusan autonomi.
Malah, undang-undang liabiliti tort yang sedia ada di Malaysia masih lagi belum teruji dalam menangani tuntutan terhadap kecuaian sistem AI dalam sektor automotif, perubatan atau kewangan.
Ini sudah tentu menimbulkan keperluan untuk mengkaji serta menyesuaikan pendekatan global bagi mengisi kelompongan undang-undang tempatan yang sedia ada.
Dalam konteks ini, terdapat beberapa rantau mahupun negara yang dilihat lebih ke hadapan dalam konteks membangunkan kerangka kawal selia teknologi AI jika dibandingkan dengan Malaysia. Kesatuan Eropah (EU) misalnya, telah menguatkuasakan Akta Kecerdasan Buatan EU pada 1 Ogos 2024.
Dianggap sebagai pertama seumpamanya di dunia, undang-undang ini menyusun risiko AI kepada empat kategori, iaitu minimum, terhad, berisiko tinggi, atau tidak boleh diterima.
Malah, negara-negara maju seperti Singapura, Kanada, United Kingdom, dan Jepun turut giat mengembangkan perundangan dan garis panduan penggunaan teknologi AI di negara mereka.
Teknologi AI menawarkan pelbagai manfaat kepada masyarakat, namun turut membawa potensi risiko yang serius jika tidak diurus secara bertanggungjawab.
Di Malaysia, ketiadaan kerangka perundangan yang khusus untuk AI menimbulkan kebimbangan terhadap isu akauntabiliti, hak pengguna dan keselamatan.
Justeru, perlunya satu undang-undang di peringkat nasional yang komprehensif dan berpandukan prinsip keadilan, ketelusan serta nilai-nilai tempatan, bagi memastikan penggunaan AI kekal selamat dan beretika perlu digubal dan diwujudkan di Malaysia. – UTUSAN
PENULIS ialah Felo Penyelidik Bersekutu, Pusat Penyelidikan Perundangan dan Kehakiman, Pusat Pengajian Undang-undang, Universiti Utara Malaysia (UUM).
