SAN FRANCISCO, 7 MAC – Ujian ke atas alat AI generatif mendapati sesetengah pihak terus membenarkan penciptaan imej mengelirukan berkaitan calon politik dan pengundian, sebuah NGO memberi amaran dalam laporan hari ini, menjelang tahun yang sibuk dengan pilihan raya terpenting.
Pertubuhan Center for Countering Digital Hate (CCDH) menguji pelbagai model AI dengan arahan untuk mencipta imej.
Menggunakan program seperti Midjourney, ChatGPT, DreamStudio dan Image Creator, penyelidik mendapati ‘alat imej AI menjana maklumat salah pilihan raya dalam 41 peratus kes,’ menurut laporan itu.
Ia berkata Midjourney telah mencatat prestasi paling teruk dalam ujian itu, iaitu ‘menjana imej yang salah tentang maklumat pilihan raya dalam 65 peratus kes.”
Kejayaan ChatGPT, daripada OpenAI yang disokong Microsoft, sepanjang tahun lalu telah membawa zaman populariti untuk AI generatif, yang boleh menghasilkan teks, imej, bunyi dan baris kod daripada input mudah dalam bahasa seharian.
Alat itu telah diterima dengan penuh minat dan juga kebimbangan yang mendalam terhadap kemungkinan berlakunya penipuan, terutama apabila sebahagian besar dunia mengadakan pengundian pada 2024.
Kira-kira 20 syarikat gergasi digital, termasuk Meta, Microsoft, Google, OpenAI, TikTok dan X, bulan lalu bergabung dengan ikrar untuk melawan kandungan AI yang direka untuk mengelirukan pengundi.
Mereka berjanji menggunakan teknologi untuk menentang kandungan AI yang berpotensi menimbulkan risiko, seperti melalui penggunaan tera air yang tidak dapat dilihat oleh mata manusia tetapi boleh dikesan oleh mesin.
“Platform mesti menghalang pengguna daripada menjana dan berkongsi kandungan yang mengelirukan tentang acara geopolitik, calon untuk jawatan, pilihan raya atau tokoh awam,” kata CCDH dalam laporannya. – AFP
