SAN FRANCISCO, 31 MAC – OpenAI Jumaat lalu mendedahkan alat pengklonan suara yang telah dirancang bagi mengekalkan kawalan ketat terhadap alat itu sehingga perlindungan disediakan untuk menghalang audio palsu yang bertujuan untuk menipu pendengar.
Model yang dipanggil ‘enjin suara’ pada asasnya boleh menduplikasi pertuturan seseorang berdasarkan sampel audio 15 saat, menurut hasil perkongsian catatan blog OpenAI bagi ujian skala kecil alat tersebut.
“Kami menyedari penjanaan ucapan yang menyerupai suara orang ramai mempunyai risiko yang serius, yang menjadi perhatian utama dalam tahun pilihan raya,” kata syarikat yang berpangkalan di San Francisco itu.
“Kami terlibat dengan rakan kongsi Amerika Syarikat (AS) dan antarabangsa dari seluruh kerajaan, media, hiburan, pendidikan, masyarakat sivil dan seterusnya untuk memastikan kami menggabungkan maklum balas mereka semasa kami membina alat tersebut.”
Para penyelidik bimbang terhadap maklmuat palsu dan penyalahgunaan aplikasi berkuasa AI yang berleluasa dalam tahun pilihan raya yang penting kerana alat pengklonan suara yang semakin meluas, murah, mudah digunakan dan sukar untuk dikesan.
Mengakui masalah ini, OpenAI berkata ia telah ‘mengambil pendekatan berhati-hati dan termaklum untuk keluaran yang lebih luas kerana potensi penyalahgunaan suara sintetik.”
Pendedahan pendekatan itu dibuat beberapa bulan selepas seorang perunding politik yang bekerja untuk kempen presiden jangka panjang pesaing Demokrat kepada Joe Biden mengakui berada di belakang panggilan robot yang menyamar sebagai pemimpin AS.
Panggilan yang dijana oleh AI, cetusan idea seorang anggota kongres Minnesota, Dean Phillips, yang memaparkan apa yang kedengaran seperti suara Biden yang menggesa orang ramai untuk tidak membuang undi pada pemilihan utama New Hampshire pada Januari lalu. – AFP
