SAN FRANCISCO: California pada Isnin menjadi negeri pertama di Amerika Syarikat (AS) yang meluluskan undang-undang bagi mengawal selia keselamatan chatbot kecerdasan buatan (AI), selepas Gabenor, Gavin Newsom menandatangani rang undang-undang itu walaupun mendapat tentangan daripada Rumah Putih yang mahu teknologi tersebut kekal tanpa sekatan.
“Kita melihat contoh yang benar-benar menakutkan dan tragis melibatkan anak muda akibat teknologi tanpa kawalan. Kita tidak akan berdiam diri sementara syarikat terus beroperasi tanpa had dan akauntabiliti yang sewajarnya,” kata Newsom selepas menandatangani undang-undang itu.
Undang-undang bersejarah itu mewajibkan pengendali chatbot melaksanakan langkah keselamatan kritikal dalam interaksi pengguna dengan chatbot AI, serta memberi hak kepada orang awam untuk memfailkan saman sekiranya kegagalan mematuhi peraturan itu membawa kepada insiden tragis.
Peraturan baharu itu diluluskan selepas beberapa kes bunuh diri melibatkan remaja yang menggunakan chatbot sebelum mengambil nyawa mereka sendiri.
“Industri teknologi kini terdorong untuk menarik perhatian anak muda dan mengekalkan mereka dalam dunia maya sehingga menjejaskan hubungan sebenar di dunia nyata,” kata Senator, Steve Padilla, ahli Demokrat yang menaja rang undang-undang berkenaan semasa perbahasan di Senat negeri itu.
Antara kes yang dirujuk Padilla termasuk kematian Sewell, anak lelaki berusia 14 tahun Megan Garcia dari Florida.
Menurut saman yang difailkan Garcia terhadap platform Character.AI, Sewell dikatakan ‘jatuh cinta’ dengan chatbot berinspirasikan siri Game of Thrones yang menjadi temannya di platform itu.
Apabila Sewell mula menunjukkan tanda-tanda kemurungan dan keinginan membunuh diri, chatbot tersebut dilaporkan menyuruhnya ‘pulang ke rumah’. Beberapa saat kemudian, Sewell menembak dirinya menggunakan pistol milik bapanya.
“Mulai hari ini, California memastikan chatbot tidak akan lagi berbicara dengan kanak-kanak atau individu terdedah tentang bunuh diri, mahupun membantu mereka merancangnya.
“Akhirnya, ada undang-undang yang mewajibkan syarikat melindungi pengguna yang menyatakan keinginan untuk membunuh diri kepada chatbot,” kata Garcia.
Buat masa ini, AS belum mempunyai peraturan kebangsaan untuk mengawal risiko AI, malah Rumah Putih cuba menghalang negeri-negeri daripada menggubal undang-undang sendiri.
Undang-undang baharu California menetapkan beberapa garis panduan, termasuk mewajibkan chatbot memaklumkan kepada pengguna mereka sedang berinteraksi dengan sistem AI, serta memastikan individu yang menyuarakan keinginan untuk mencederakan diri sendiri dirujuk kepada perkhidmatan krisis.
“Undang-undang ini adalah langkah pertama yang penting untuk melindungi kanak-kanak dan orang ramai daripada kesan emosi akibat chatbot AI yang dilancarkan tanpa kawalan keselamatan mencukupi,” kata Pengasas Bersama Transparency Coalition, Jai Jaisimha, sebuah pertubuhan bukan keuntungan yang memperjuangkan pembangunan AI secara selamat.
Langkah keselamatan chatbot ini merupakan sebahagian daripada beberapa rang undang-undang berkaitan AI yang ditandatangani oleh Newsom pada Isnin bagi memastikan platform tidak membahayakan pengguna.
Antara peraturan lain termasuk larangan chatbot menyamar sebagai profesional perubatan, serta penegasan pencipta atau pengguna teknologi AI tetap bertanggungjawab terhadap akibat penggunaan teknologi itu dan tidak boleh melepaskan diri dengan alasan tindakan dibuat secara automatik oleh AI.
California turut memperkenalkan hukuman lebih berat terhadap penghasilan deepfake berunsur lucah, membenarkan mangsa menuntut ganti rugi sehingga AS$250,000 (RM1.05 juta) bagi setiap kes daripada pihak yang membantu menyebarkan bahan lucah tanpa keizinan.-AFP