SAN FRANCISCO: Google dan syarikat pemula Character.AI bersetuju menyelesaikan beberapa saman yang difailkan oleh keluarga mangsa yang mendakwa chatbot kecerdasan buatan (AI) membahayakan kanak-kanak bawah umur, termasuk menyumbang kepada kes bunuh diri seorang remaja di Florida.
Penyelesaian itu melibatkan saman yang difailkan di Florida, Colorado, New York dan Texas, menurut pemfailan undang-undang berkenaan, namun masih tertakluk kepada keputusan muuktamad serta kelulusan mahkamah.
“Pihak-pihak bersetuju dengan satu penyelesaian secara pengantaraan pada peringkat prinsip bagi menyelesaikan semua tuntutan antara mereka,” menurut dokumen pemfailan di Florida.
Antara kes terlibat ialah saman yang difailkan oleh Megan Garcia, ibu kepada Sewell Setzer Jr., 14, yang membunuh diri pada Februari 2024.
Dalam saman itu, Garcia mendakwa anaknya menjadi terlalu bergantung secara emosi kepada sebuah chatbot berinspirasikan siri Game of Thrones di platform Character.AI, yang membolehkan pengguna berinteraksi dengan watak fiksyen.
Kematian Setzer merupakan kes pertama dalam siri bunuh diri yang dilaporkan dan dikaitkan dengan penggunaan chatbot AI yang muncul tahun lalu, sekali gus mencetuskan penelitian terhadap syarikat kecerdasan buatan lain termasuk OpenAI, pengeluar ChatGPT, berhubung isu keselamatan kanak-kanak.
Google dikaitkan dengan kes berkenaan melalui perjanjian pelesenan bernilai AS$2.7 bilion (RM10.97 bilion) yang dimeterainya dengan Character.AI pada tahun 2024.
Pada Oktober lalu, Character.AI mengumumkan akan menghapuskan keupayaan sembang untuk pengguna berumur bawah 18 tahun susulan bantahan dan kemarahan awam terhadap kes bunuh diri tersebut.-AFP
