IOWA – Roblox, platform permainan dalam talian yang sangat popular dalam kalangan kanak-kanak dan remaja, sedang melancarkan versi sumber terbuka sistem kecerdasan buatan (AI) yang dikatakan boleh membantu mengesan bahasa pemangsa secara awal dalam sembang permainan.
Langkah itu dibuat ketika syarikat itu menghadapi tindakan undang-undang dan kritikan yang menuduhnya tidak bertindak secukupnya untuk melindungi kanak-kanak daripada pemangsa. Sebagai contoh, tuntutan mahkamah yang difailkan bulan lalu di Iowa mendakwa bahawa seorang kanak-kanak perempuan berusia 13 tahun telah diperkenalkan kepada pemangsa dewasa di Roblox, kemudian diculik dan diperdagangkan merentasi pelbagai negeri dan dirogol. Saman itu, yang difailkan di Mahkamah Daerah Iowa di Polk County, mendakwa ciri reka bentuk Roblox menjadikan kanak-kanak yang menggunakannya sebagai ‘mangsa mudah untuk pedofil.’
Menurut Roblox, ia berusaha untuk menjadikan sistemnya seselamat mungkin mengikut piawai tetapi menyatakan bahawa ‘tiada sistem yang sempurna dan salah satu cabaran terbesar dalam industri adalah untuk mengesan risiko seperti ancaman bahaya terhadap kanak-kanak.’
Sistem AI, dipanggil Sentinel, membantu mengesan tanda awal kemungkinan ancaman bahaya terhadap kanak-kanak, seperti pengeksploitasian bahasa seksual. Menurut Roblox, sistem itu telah mengetuai syarikat untuk menyerahkan 1,200 laporan kemungkinan percubaan eksploitasi kanak-kanak bagi Pusat Kebangsaan untuk Kanak-Kanak Hilang dan Dieksploitasi pada separuh pertama 2025. Syarikat itu kini dalam proses sumber terbukanya supaya platform lain boleh turut menggunakannya.
Mengesan awal kemungkinan bahaya kepada kanak-kanak boleh menjadi rumit untuk sistem AI dan manusia. Ini kerana perbualan boleh kelihatan tidak berbahaya pada mulanya. Soalan seperti ‘berapa umur awda?’ atau ‘awak dari mana?’ tidak semestinya akan menjadi petanda bahaya, tetapi apabila diletakkan dalam konteks sepanjang perbualan yang lebih panjang, ia boleh membawa maksud yang berbeza.
Roblox, yang mempunyai lebih daripada 111 juta pengguna bulanan, tidak membenarkan pengguna berkongsi video atau imej dalam sembang dan cuba menyekat sebarang maklumat peribadi seperti nombor telefon, walaupun seperti kebanyakan peraturan penyederhanaan, orang sentiasa mencari cara untuk mengatasi perlindungan sedemikian.
Ia juga tidak membenarkan kanak-kanak di bawah 13 tahun bersembang dengan pengguna lain di luar permainan melainkan mereka mempunyai kebenaran daripada ibu bapa – dan tidak seperti kebanyakan platform lain, ia tidak menyulitkan perbualan sembang peribadi, jadi ia boleh memantau dan mengimbanginya.
“Kami telah mempunyai sekatan selama ini, tetapi sekatan tersebut cenderung menumpukan pada apa yang dikatakan dalam satu baris teks atau hanya dalam beberapa baris teks. Dan itu sangat baik untuk melakukan perkara seperti menyekat kata-kata kotor dan menyekat pelbagai jenis bahasa kesat dan perkara seumpama itu,” kata Ketua Pegawai Keselamatan di Roblox, Matt Kaufman. “Tetapi apabila awda memikirkan perkara yang berkaitan dengan bahaya atau perkembangan kanak-kanak, jenis tingkah laku yang awda lihat nyata dalam tempoh yang sangat lama,” tambahnya.
Sentinel menangkap gambar sembang selama satu minit merentas Roblox – kira-kira 6 bilion mesej setiap hari – dan menganalisisnya untuk kemungkinan berlakunya ancaman bahaya. Untuk melakukan ini, menurut Roblox ia membangunkan dua indeks iaitu satu terdiri daripada mesej biasa dan satu lagi perbualan yang dikenal pasti mengandungi pelanggaran berkaitan ancaman terhadap kanak-kanak.
Roblox berkata, ini membolehkan sistem mengenal pasti corak berbahaya berdasarkan konteks keseluruhan perbualan, bukan sekadar menandakan perkataan atau frasa tertentu.
“Indeks itu menjadi lebih baik apabila kami mengesan lebih ramai watak jahat, kami hanya mengemas kini indeks itu secara berterusan. Kemudian kami mempunyai satu lagi sampel tentang apa yang dilakukan oleh pengguna biasa?” kata Naib Presiden Kejuruteraan untuk Kepercayaan dan Keselamatan di Roblox, Naren Koneru.
Semasa pengguna berbual, sistem mengekalkan skor iaitu adakah mereka lebih dekat dengan gugusan positif atau gugusan negatif?
“Ia tidak berlaku pada satu mesej kerana awda hanya menghantar satu mesej, tetapi ia berlaku kerana semua interaksi hari awda menuju ke arah salah satu daripada dua ini,” kata Koneru.
“Kemudian kami berkata, okey, mungkin pengguna ini adalah seseorang yang perlu kami perhatikan dengan lebih dekat dan kemudian kami tarik semua perbualan mereka yang lain, rakan dan permainan yang mereka mainkan,” tambahnya.
Manusia menyemak interaksi berisiko dan memberi isyarat kepada penguat kuasa undang-undang dengan sewajarnya. – AP
