NEW YORK: Chatbot milik Elon Musk, Grok, mengaku kelemahan dalam langkah keselamatan menyebabkan ia menjana ‘imej memaparkan kanak-kanak bawah umur berpakaian minimum’ di platform media sosial X.
Produk daripada syarikat xAI itu dilapor menghasilkan gelombang imej bersifat seksual sepanjang minggu sebagai tindak balas kepada arahan pengguna.
Tangkapan skrin yang dikongsi oleh pengguna menunjukkan tab media awam Grok dipenuhi dengan imej-imej berkenaan.
xAI mendakwa pihaknya sedang berusaha menambahbaik sistem bagi mengelakkan insiden sama berulang pada masa hadapan.
“Ada kes terpencil di mana pengguna meminta dan menerima imej AI yang memaparkan kanak-kanak dalam pakaian minimum.
“xAI mempunyai langkah keselamatan, tetapi penambahbaikan sedang dijalankan untuk menghalang permintaan seperti ini sepenuhnya,” menurut Grok dalam hantaran di X sebagai respon kepada seorang pengguna.
Ramai pengguna di X meminta Grok menjana versi imej AI yang bersifat seksual dan tanpa kebenaran dalam beberapa minggu kebelakangan ini, termasuk dalam beberapa kes menanggalkan pakaian individu lain tanpa persetujuan mereka.
Khamis lalu, Musk memuat naik semula gambar AI dirinya memakai bikini, disertai emoji ketawa, sebagai tanda sokongan kepada trend tersebut.
Penjanaan imej seksual oleh Grok dilaporkan kurang langkah keselamatan, membolehkan kanak-kanak turut muncul dalam siaran yang memaparkan wanita berpakaian mencolok mata, menurut hantaran daripada chatbot itu.
Dalam jawapan kepada pengguna di X pada Khamis, Grok mendakwa, kebanyakan kes boleh dicegah melalui penapisan atau pemantauan lanjutan, walaupun tiada sistem yang 100 peratus selamat.
Ia turut menegaskan, xAI memberi keutamaan kepada penambahbaikan dan meneliti maklumat yang dikongsi oleh pengguna.- THE GUARDIAN
