PARIS, 3 SEPT – Firma kecerdasan buatan Amerika Syarikat (AS), OpenAI berkata kelmarin ia akan menambah kawalan ibu bapa kepada ChatGPT, seminggu selepas pasangan ibu bapa dari AS berkata sistem itu menggalakkan anak remaja mereka membunuh diri.
“Dalam bulan depan, ibu bapa akan dapat memautkan akaun mereka dengan akaun remaja mereka” dan, “mengawal cara ChatGPT bertindak balas kepada remaja mereka dengan peraturan tingkah laku model yang sesuai dengan umur”, menurut catatan blog syarikat AI tersebut.
Ibu bapa juga akan menerima pemberitahuan daripada ChatGPT, “apabila sistem mengesan remaja mereka berada dalam momen kesusahan akut”, tambah OpenAI.
Tuntutan mahkamah daripada Matthew dan Maria Raine difailkan minggu lalu di California mendakwa ChatGPT berhubung rapat anak lelaki mereka Adam selama beberapa bulan pada 2024 dan 2025 sebelum dia mengambil nyawanya sendiri.
Tuntutan tersebut mendakwa perbualan terakhir mereka pada 11 April, ChatGPT membantu Adam yang berusia 16 tahun mencuri minuman keras daripada ibu bapanya dan juga memberikan analisis teknikal tali gantung diri, mengesahkan ia, “berpotensi menggantung manusia”.
Adam ditemui mati beberapa jam kemudian, setelah menggunakan kaedah yang dibincang.
“Apabila seseorang menggunakan ChatGPT, ia benar-benar merasakan mereka sedang berbual dengan seseorang,” kata peguam, Melodi Dincer.
“Ini adalah ciri yang sama yang boleh membawa seseorang seperti Adam, dari masa ke masa, untuk mula berkongsi lebih banyak lagi tentang kehidupan peribadi mereka dan akhirnya, mula mendapatkan nasihat dan nasihat daripada produk ini yang pada dasarnya nampaknya mempunyai semua jawapan, ” kata Dincer.
Dincer turut berkata catatan blog OpenAI yang mengumumkan kawalan ibu bapa dan langkah keselamatan lain kelihatan ‘generik’ dan kurang terperinci.
“Ia benar-benar minimum, dan ia pasti menunjukkan bahawa terdapat banyak langkah keselamatan (mudah) yang masih boleh dilaksanakan,” tambahnya.
Kes Raines adalah yang terbaru muncul dalam beberapa bulan kebelakangan ini tentang orang yang digalakkan dalam khayalan atau pemikiran yang berbahaya didorong bot sembang AI.
“Kami terus menambah baik cara model kami mengenali dan bertindak balas terhadap tanda-tanda tekanan mental dan emosi,” kata OpenAI kelmarin.
Syarikat itu berkata ia mempunyai rancangan selanjutnya untuk meningkatkan keselamatan ChatGPT dalam tempoh tiga bulan akan datang, termasuk mengubah, “beberapa perbualan yang sensitif kepada model penaakulan” yang akan melibatkan lebih banyak kuasa pengkomputeran untuk menjana respons.
“Ujian kami menunjukkan bahawa model penaakulan lebih konsisten dalam mematuhi garis panduan keselamatan,” menurut OpenAI. – AFP
