PETALING JAYA: Platform kecerdasan buatan (AI) Grok X berisiko tinggi susulan keterbukaannya terhadap kandungan pornografi dan seksual yang terlalu meluas, sekali gus berpotensi mengancam keselamatan pengguna khususnya kanak-kanak dan remaja.
Presiden Persatuan Pengguna Siber Malaysia (MCCA), Siraj Jalil berkata, Grok X memberi ruang kepada mana-mana pihak untuk menjana gambar menggunakan AI kepada tidak senonoh dan lucah.
Katanya, kandungan pornografi di X tidak ditapis dan menyebar luas sekali gus menjadikan platform media sosial tersebut semakin tidak terkawal.
“Oleh sebab itu, algoritma X akan terus memaparkan kandungan pornografi sekiranya pengguna berinteraksi dengan akaun sebegitu.
“Keadaan ini memberi kesan langsung kepada AI X, Grok, yang mempelajari data daripada kandungan sedia ada di platform tersebut.
“Jika data yang dipelajari sarat dengan kandungan seksual, maka respons AI itu sendiri akan cenderung ke arah sama,” katanya kepada Mingguan Malaysia.
Terdahulu, Grok dilaporkan mencipta imej berunsur seksual melibatkan individu termasuk kanak-kanak bawah umur di platform media sosial X.
Laporan tersebut mendakwa Grok menghasilkan dan menerbitkan imej kanak-kanak berpakaian menjolok mata, sekali gus melanggar dasar penggunaan sendiri yang secara jelas melarang sebarang bentuk jenayah seksual kanak-kanak.
Susulan itu, Kerajaan Perancis dilaporkan mendakwa Grok menghasilkan kandungan seksual yang jelas menyalahi undang-undang di platform X tanpa persetujuan individu terlibat.
Ia juga didakwa berpotensi melanggar Akta Perkhidmatan Digital Kesatuan Eropah (EU) yang mewajibkan platform besar mengurangkan risiko penyebaran kandungan haram.
Tambah Siraj, kerajaan perlu segera menggubal undang-undang berkaitan kandungan seksual janaan AI termasuk teknologi deepfake, yang berpotensi menelanjangkan individu secara digital.
“Isu AI janaan seksual ini sangat serius dan perlu dibincangkan segera oleh Jawatankuasa Keselamatan Dalam Talian kerana implikasinya besar terhadap maruah, keselamatan dan kesejahteraan masyarakat,” katanya. – UTUSAN
