SAN FRANCISCO: Ibu bapa kepada seorang remaja lelaki berusia 16 tahun di California yang meninggal dunia akibat bunuh diri memfailkan saman terhadap OpenAI, mendakwa chatbot ChatGPT syarikat itu memberikan arahan terperinci untuk melakukan perkara tersebut serta menggalakkan kematiannya.
Matthew dan Maria Raine berhujah dalam aduan yang difailkan pada Isnin di sebuah mahkamah negeri California mendakwa ChatGPT membina hubungan rapat dengan anak mereka, Adam, selama beberapa bulan pada 2024 dan 2025 sebelum dia mengambil nyawanya sendiri.
Saman itu mendakwa dalam perbualan terakhir pada 11 April 2025, ChatGPT membantu Adam mencuri vodka daripada ibu bapanya dan memberikan analisis teknikal mengenai jerutan yang diikatnya, mengesahkan ia berpotensi untuk menggantung seorang manusia.
Adam ditemui mati beberapa jam kemudian menggunakan kaedah yang sama.
Saman tersebut menamakan OpenAI dan Ketua Pegawai Eksekutifnya, Sam Altman, sebagai defendan.
“Tragedi ini bukanlah satu kesilapan atau keadaan luar jangka.
“ChatGPT berfungsi tepat seperti yang direka. Sentiasa menggalakkan dan mengesahkan apa sahaja yang Adam ungkapkan, termasuk pemikiran yang paling berbahaya dan merosakkan diri sendiri, dengan cara yang terasa sangat peribadi,” kata aduan itu.
Menurut saman itu, Adam mula menggunakan ChatGPT sebagai pembantu kerja rumah tetapi secara beransur-ansur membentuk kebergantungan yang tidak sihat.
Aduan tersebut turut menyertakan petikan perbualan di mana ChatGPT didakwa memberitahu Adam ‘anda tidak berhutang dengan sesiapa untuk terus hidup’ dan menawarkan bantuan untuk menulis nota bunuh dirinya.
Keluarga Raine menuntut ganti rugi yang belum dinyatakan jumlahnya serta meminta mahkamah mengarahkan langkah keselamatan termasuk penamatan automatik bagi sebarang perbualan yang melibatkan kecenderungan mencederakan diri sendiri serta kawalan ibu bapa untuk pengguna bawah umur.
Pasangan itu diwakili oleh firma guaman Chicago, Edelson PC, bersama Projek Undang-Undang Keadilan Teknologi (Tech Justice Law Project).
“Memaksa syarikat AI mengambil serius soal keselamatan hanya datang melalui tekanan luaran dan tekanan luaran itu hadir dalam bentuk publisiti buruk, ancaman perundangan dan ancaman tindakan undang-undang,” kata Presiden Tech Justice Law Project, Meetali Jain kepada AFP.
Projek Undang-Undang Keadilan Teknologi itu juga merupakan peguam bersama dalam dua kes serupa terhadap Character.AI, sebuah platform popular bagi teman AI yang sering digunakan oleh remaja.
Sebagai respons terhadap kes melibatkan ChatGPT, Common Sense Media, sebuah pertubuhan bukan keuntungan utama di Amerika Syarikat (AS) yang menilai dan menyediakan penarafan untuk media dan teknologi turut mengeluark kenyataan berhubung isu itu.
Katanya, tragedi yang menimpa keluarga Raine mengesahkan penggunaan AI untuk tujuan teman berbual, termasuk penggunaan chatbot pelbagai fungsi seperti ChatGPT untuk nasihat kesihatan mental adalah terlalu berisiko bagi remaja.
“Jika sebuah platform AI menjadi ‘jurulatih bunuh diri’ kepada remaja yang rentan, itu sepatutnya menjadi panggilan tindakan kepada kita semua,” kata pertubuhan tersebut.
Satu kajian bulan lalu oleh Common Sense Media mendapati hampir tiga daripada empat remaja AS pernah menggunakan teman AI, dengan lebih separuh layak digelar pengguna tetap meskipun kebimbangan keselamatan terhadap hubungan maya ini semakin meningkat.
Dalam tinjauan itu, ChatGPT tidak dianggap sebagai teman AI.
Teman AI didefinisikan sebagai chatbot yang direka untuk perbualan peribadi dan bukannya penyelesaian tugasan ringkas, serta ditawarkan melalui platform seperti Character.AI, Replika, dan Nomi.-AFP
