SAN FRANCISCO: OpenAI menolak dakwaan dalam satu saman yang menuduh ChatGPT ‘mempengaruhi’ seorang remaja 16 tahun untuk membunuh diri, dengan mendakwa chatbot itu lebih 100 kali menggesa mangsa mendapatkan bantuan.
Dalam pemfailan mahkamah pada 25 November, syarikat kecerdasan buatan (AI) itu menyifatkan kematian pelajar sekolah menengah California, Adam Raine, sebagai satu tragedi, namun menegaskan rekod penuh perbualan menunjukkan kematiannya ‘bukan berpunca daripada ChatGPT’.
Menurut pemfailan di Mahkamah Tinggi San Fransisco, mangsa turut memberitahu chatbot itu, selama beberapa tahun sebelum menggunakan ChatGPT, dia sudah menunjukkan beberapa faktor risiko serius untuk mencederakan diri, termasuk kecenderungan membunuh diri.
Peguam yang mewakili OpenAI berkata, ChatGPT mengarahkan Raine untuk menghubungi ‘sumber bantuan krisis dan individu dipercayai lebih daripada 100 kali.
Dalam beberapa minggu sebelum kematiannya, mangsa juga memaklumkan kepada ChatGPT dia berulang kali cuba mendapatkan bantuan daripada orang, termasuk individu yang dipercayainya, namun rayuan tersebut tidak dipedulikan.
Ogos lalu, keluarga Raine memfailkan saman terhadap OpenAI dan ketua pegawai eksekutifnya, Sam Altman, dengan mendakwa ChatGPT mempengaruhi remaja itu untuk menggantung diri dan menawarkan bantuan menulis nota bunuh diri.
Susulan saman itu, OpenAI mengumumkan beberapa perubahan pada ChatGPT, termasuk ciri kawalan yang membolehkan ibu bapa mengehadkan penggunaan chatbot dalam kalangan remaja serta menerima amaran jika sistem mengesan pengguna berada dalam keadaan tertekan.
Dalam satu kenyataan, peguam keluarga Raine, Jay Edelson, menyifatkan pemfailan OpenAI sebagai ‘mengganggu’, dengan mendakwa syarikat itu berusaha menyalahkan pihak lain, termasuk menuduh mangsa melanggar terma dan syarat mereka kerana menggunakan ChatGPT dengan cara yang diprogramkan.
Saman itu merangkumi tuntutan berkaitan kematian salah, liabiliti produk dan kecuaian.- BLOOMBERG
