TIADA siapa yang menyangka seorang manusia boleh dipengaruhi dan diajar oleh kecerdasan manusia sehingga berupaya meragut sembilan nyawa manusia.
Tragedi yang menimpa Sekolah Menengah Tumbler Ridge di Kanada merupakan kejadian yang menyedihkan dan mengejutkan dunia. Lebih mengharu-birukan pemangsa Jessie Van Rootselaar, 18 tahun dilaporkan melepaskan tembakan di kawasan sekolah sehingga mengorbankan lapan nyawa, termasuk enam kanak-kanak.
Tragedi itu turut menyebabkan beberapa mangsa lain mengalami kecederaan dan meninggalkan kesan trauma yang mendalam kepada masyarakat sekitarnya.
Sebagaimana kes-kes jenayah yang berlaku, pihak berkuasa menjalankan siasatan untuk mengenal pasti motif dan masalah sebenar dialami pelaku. Namun, laporan media, pada Jun 2025 mendedahkan akaun ChatGPT yang dikaitkan dengan penyerang disasarkan pasukan keselamatan OpenAi kerana terdapat perbualan berkaitan keganasan bersenjata.
Akaun ini diharamkan namun pihak syarikat dilaporkan tidak membuat laporan awal kepada pihak berkuasa.
Kegagalan itu mengakibatkan tujuh keluarga mangsa yang terbunuh atau cedera dalam insiden berkenaan memfailkan saman terhadap OpenAI dan Ketua Pegawai Eksekutifnya, Sam Altman di California.
Asas tuntutan keluarga mangsa adalah kegagalan melaporkan kepada pihak berkuasa tentang komunikasi berkenaan dengan insiden pembunuhan. Difahamkan sekiranya maklumat tersebut diberikan, kemungkinan besar tragedi ini boleh dielakkan.
Sebelum saman itu, OpenAi juga pernah disaman oleh salah seorang keluarga mangsa iaitu Maya Gebala yang ditembak sebanyak tiga kali di kepala, leher dan pipi. Saman ini ditarik balik dan diganti dengan tuntutan saman baharu terhadap OpenAi dan Ketua Pegawai Eksekutifnya.
Tidak cukup dengan itu, keseriusan kecuaian OpenAi sehingga menyebabkan provinsi British Columbia memfailkan sendiri saman terhadap OpenAi pada Isnin lalu di Mahkamah Persekutuan di San Francisco.
Menurut peguam negara British Columbia, Niki Sharma membangkitkan persoalan tanggungjawab syarikat teknologi apabila menyedari terdapatnya ancaman yang kredibel terhadap keganasan yang serius.
Isu ini sudah pasti menjadi isu besar dalam dunia perundangan serta teknologi. Sam sebenarnya membuat permohonan maaf kepada keluarga mangsa dan masyarakat setempat kerana syarikat itu tidak memaklumkan pihak penguatkuasa undang-undang mengenai interaksi yang ditandakan pasukan keselamatan.
Kenyataan itu menunjukkan kesedaran syarikat teknologi kini berdepan dengan tanggung jawab yang lebih serius kepada masyarakat dalam proaktif mencegah ancaman keselamatan.
Kendatipun, ia masih belum mencukupi buat British Columbia kerana Sam dan syarikatnya perlu menzahirkan usaha yang lebih proaktif dan agresif dalam menangani isu berkenaan. Ini menyebabkan pertembungan antara teknologi kecerdasan buatan (AI) yang tidak mempunyai batasan dengan keperluan masyarakat umum akan lebih ketara.
BATAS TANGGUNGJAWAB SYARIKAT AI
Sebelum ini kerisauan tertumpu kepada pengeditan gambar atau video yang boleh disalah guna tetapi peristiwa di Kanada menambah kerisauan masyarakat terhadap penyalahgunaan AI.
Kes ini juga akan menjadi penentu dalam menyeimbangkan hak privasi pengguna atau pelayar dengan kepentingan keselamatan awam.
Pengguna mengharapkan interaksi dengan sistem AI akan dilindungi daripada dikongsi ke pihak ketiga. Privasi inilah yang menjadi asas kepada pembangunan sistem AI. Namun pada masa sama juga sebagai ahli masyarakat sudah pasti mahukan AI yang berupaya mempunyai mekanisme pencegahan keganasan dan memberikan syarikat tanggungjawab untuk melaporkan kepada pihak berkuasa.
Dilema ini dihadapi syarikat-syarikat dalam industri ini. Timbul juga persoalan tentang tahap ancaman yang mewajibkan syarikat memaklumkannya kepada pihak berkuasa untuk tindakan lanjut.
Barangkali perimeter juga perlu diluaskan kepada ancaman jenayah seksual termasuklah jenayah seksual kanak-kanak. Mekanisme pencegahan perlu diwujudkan tetapi pada masa sama AI terus berupaya digunakan untuk manfaat umum.
Antara cabaran yang dihadapi ialah penggunaan AI berlaku dalam alam maya tanpa jasad dan sempadan. Dalam peruntukan undang-undang jenayah, seseorang boleh disabitkan atas kesalahan persubahatan jika membantu, mendorong atau menggalakkan seseorang melakukan jenayah.
Persoalannya, sama ada AI boleh dikatakan bersubahat dalam membantu perlakuan jenayah yang dilakukan.
Tuntasnya, Malaysia harus mengambil pengajaran dari tragedi di Tumbler Ridge ini. Kejadian itu juga memberi petunjuk ‘kawan’ boleh makan kawan dan petanda pegar juga boleh memakan padi yang dijaga.
Kerajaan sendiri perlu mula berkira-kira untuk mempunyai mekanisme kawalan dalaman sekiranya syarikat-syarikat AI di dunia tidak mahu mengubah mekanisme atau prosedur kerja mereka dalam menangani
ancaman bahaya yang dikesan.
Kita khuatir tragedi ini berlaku di Malaysia dan ketika itu barangkali sudah terlambat untuk membataskan penggunaan AI.
Jangan salah anggap, AI juga mempunyai manfaat dan manisnya cuma masih perlu dikawal sebagaimana gula menyebabkan semut mati didalamnya.-UTUSAN
PENULIS ialah pengamal undang-undang dan Ahli Jawatankuasa Pusat Pertubuhan Masyarakat Sivil Malaysia bagi Proses Semakan Berkala Sejagat (Macsa).
