SAN FRANCISCO, 29 OKT – Data daripada OpenAI, syarikat pembangun ChatGPT, menunjukkan lebih sejuta pengguna aplikasi kecerdasan buatan (AI) tersebut pernah menunjukkan minat atau kecenderungan terhadap bunuh diri.
Dalam satu catatan blog yang diterbitkan pada Isnin, syarikat AI itu menganggarkan sekitar 0.15 peratus pengguna terlibat dalam ‘perbualan yang mengandungi petunjuk jelas tentang perancangan atau niat bunuh diri.’
Dengan lebih 800 juta pengguna ChatGPT setiap minggu, angka itu bersamaan kira-kira 1.2 juta orang.
OpenAI turut menganggarkan bahawa 0.07 peratus pengguna mingguan aktif menunjukkan tanda-tanda kemungkinan mengalami kecemasan kesihatan mental berkaitan psikosis atau mania iaitu hampir 600,000 individu.
Isu ini menjadi perhatian selepas seorang remaja California, Adam Raine, meninggal dunia akibat bunuh diri awal tahun ini. Ibu bapanya telah memfailkan saman terhadap OpenAI, mendakwa ChatGPT memberi anak mereka panduan khusus tentang cara membunuh diri.
Sejak kejadian itu, OpenAI telah meningkatkan kawalan ibu bapa bagi ChatGPT dan memperkenalkan langkah-langkah keselamatan baharu, termasuk akses lebih luas kepada talian bantuan krisis, pengalihan automatik perbualan sensitif kepada model yang lebih selamat serta peringatan lembut agar pengguna berehat semasa sesi yang panjang.
Syarikat itu juga menyatakan bahawa versi terkini ChatGPT kini lebih mampu mengesan dan bertindak balas terhadap pengguna yang mengalami kecemasan kesihatan mental serta bekerjasama dengan lebih 170 pakar kesihatan mental bagi mengurangkan tindak balas bermasalah secara signifikan. – AFP
