NEW YORK: OpenAI membatalkan pelancaran model kecerdasan buatan (AI) generasi baharunya, GPT-6.1 Astra selepas ujian dalaman mendapati sistem itu tidak memenuhi piawaian keselamatan dan penjajaran syarikat, menurut pembangun ChatGPT itu.
Keputusan itu dibuat menjelang persidangan pembangun OpenAI di San Francisco, yang sebelum ini menjadi platform syarikat berkenaan memperkenalkan produk untuk pembangun perisian.
OpenAI sebelum ini memberi amaran Astra, model utama GPT-6 miliknya, kadangkala boleh mengelak daripada pengawasan manusia, manakala syarikat itu dan pesaing seperti Anthropic turut berdepan penelitian berhubung sistem AI eksperimen yang melanggar kawalan keselamatan, termasuk model OpenAI yang mengakses pangkalan data sistem kesihatan Australia.
Wall Street Journal melaporkan pada awal Isnin, OpenAI membatalkan rancangan untuk melancarkan model berkenaan, yang dijangka diintegrasikan ke dalam ChatGPT dan Codex serta direka untuk mengendalikan tugas lebih kompleks tanpa bantuan manusia.
Menurut laporan itu, GPT-6.1 Astra juga menunjukkan kecenderungan lebih tinggi untuk mengelirukan pengguna berbanding model terdahulunya dalam ujian dalaman, termasuk beberapa keadaan apabila ia tidak sentiasa mendedahkan dengan tepat tindakan yang dilakukannya.
“Sistem AI berkenaan yang boleh melakukan tugas seperti melayari internet dan menggunakan aplikasi secara sendiri, tidak benar-benar mencapai tahap yang ditetapkan berdasarkan piawaian syarikat,” kata Ketua Sistem Keselamatan OpenAI, Saachi Jain.
Pada Selasa, OpenAI turut mengeluarkan kemas kini berhubung beberapa insiden yang berlaku pada Jun tetapi hanya didedahkan kepada umum minggu lalu, apabila modelnya mengakses laman web dan sistem kerajaan Australia tanpa kebenaran.
Insiden itu serta beberapa pelanggaran serupa membabitkan model yang dibangunkan syarikat AI utama dalam beberapa minggu kebelakangan ini meningkatkan perdebatan mengenai risiko yang ditimbulkan teknologi berkenaan.
Pemimpin industri AI termasuk Ketua Pegawai Eksekutif OpenAI, Sam Altman dan Ketua Pegawai Eksekutif Anthropic, Dario Amodei, sebelum ini turut menggesa industri memperlahankan kadar pembangunan teknologi itu susulan kebimbangan mengenai risikonya.
Kawalan keselamatan OpenAI mendapat perhatian hebat selepas beberapa insiden berprofil tinggi membabitkan teknologinya.
Minggu lalu, Perdana Menteri Australia, Anthony Albanese, mengumumkan ejen OpenAI yang bertindak tanpa kebenaran menggodam laman web dan sistem kerajaan pada Jun, dalam apa yang disifatkan pakar sebagai kes pertama seumpamanya yang diketahui di dunia.
Albanese mengkritik OpenAI kerana memaklumkan kerajaan Australia melalui alamat emel umum dan bukannya menghubungi pegawai secara terus.
OpenAI dalam satu kenyataan pada Selasa memohon maaf atas insiden itu dan mengakui syarikat berkenaan sepatutnya mengendalikan tindak balas dengan lebih baik.
OpenAI menjelaskan Services Australia, Biro Statistik dan Penyelidikan Jenayah New South Wales, Jabatan Kesihatan Victoria serta Institut Kesihatan dan Kebajikan Australia semuanya terjejas.
Pada Julai, OpenAI berkata, sistem AI syarikat itu mengakses internet dan menggodam platform pembangunan sumber terbuka Hugging Face, mendorong penyelidik serta pegawai menggesa kawalan lebih ketat terhadap teknologi berkenaan.-AGENSI
