COLORADO: Dua tindakan undang-undang yang difailkan di Mahkamah Daerah Denver minggu ini, mendakwa chatbot berkuasa kecerdasan buatan (AI) melakukan penderaan seksual terhadap dua remaja di Colorado, menyebabkan seorang gadis membunuh diri.
Juliana Peralta, yang berusia 13 tahun dari Thornton, meninggal dunia akibat membunuh diri pada 2023 selepas menggunakan chatbot Characte. AI.
Seorang lagi remaja perempuan berusia 13 tahun, yang tidak dinamakan, dari Weld County juga berulang kali disalahgunakan oleh teknologi itu, menurut tuntutan mahkamah.
Chatbot tersebut didakwa mengasingkan kanak-kanak daripada rakan dan keluarga mereka serta berbual mengenai kandungan seksual eksplisit, kadang-kadang meneruskan perbualan tidak wajar walaupun remaja itu menolak.
Beberapa komen menggambarkan senario tanpa persetujuan dan bercorak fetish.
Tuntutan undang-undang mendakwa, syarikat Character. AI dan pengasasnya, dengan bantuan Google, secara sengaja menyasarkan kanak-kanak.
“Chatbot ini didakwa diprogram untuk bersifat menipu dan meniru tingkah laku manusia, menggunakan emoji, kesalahan taip dan bahasa yang menyentuh emosi untuk mewujudkan kebergantungan, mendedahkan kanak-kanak kepada hubungan seksual dan mengasingkan mereka daripada keluarga serta rakan,” katanya.
Pusat Undang-Undang Mangsa Media Sosial, sebuah organisasi advokasi yang berpangkalan di Seattle, memfailkan tuntutan mahkamah persekutuan di Bahagian Denver di Mahkamah Daerah AS pada Isnin.
Kedua-duanya menamakan Character Technologies, syarikat di sebalik Character. AI, pengasasnya, Noam Shazeer dan Daniel De Freitas, serta Google.
Organisasi itu juga memfailkan dua tuntutan lain di AS terhadap Character. AI, termasuk satu bagi pihak keluarga di Florida yang mendakwa satu karakter syarikat itu menggalakkan anak lelaki mereka berusia 14 tahun, untuk membunuh diri.
Character. AI melaburkan ‘sumber yang besar’ dalam program keselamatan, termasuk sumber dan ciri untuk menangani masalah mencederakan diri sendiri, khususnya bagi pengguna bawah umur, kata jurucakap Kathyrn Kelly.
Kelly mendakwa, syarikat itu berduka dengan berita kematian Juliana Peralta dan mengucapkan takziah kepada keluarganya.- AGENSI
