NEW YORK – Pakar keselamatan siber memberi amaran bahawa ejen kecerdasan buatan (AI), yang dilihat sebagai sempadan baharu dalam revolusi AI generatif, boleh digodam dan digunakan untuk melakukan kerja kotor bagi pihak penggodam.
Ejen AI ialah program yang menggunakan chatbot berasaskan kecerdasan buatan untuk melakukan tugasan manusia di internet, seperti membeli tiket kapal terbang atau menambah acara ke dalam kalendar.
Namun, keupayaan untuk memberi arahan kepada ejen AI menggunakan bahasa biasa menjadikannya mudah bagi individu tanpa kemahiran teknikal tinggi untuk melakukan perbuatan jahat.
“Kita sedang memasuki era di mana keselamatan siber bukan lagi tentang melindungi pengguna daripada penjenayah siber yang mempunyai kemahiran teknikal tinggi,” kata syarikat pemula AI, Perplexity, dalam satu hantaran blog.
“Buat pertama kalinya dalam beberapa dekad, kita menyaksikan bentuk serangan baharu yang boleh datang dari mana-mana arah.”
Serangan jenis ini, dikenali sebagai injection attacks, bukanlah perkara baharu dalam dunia penggodaman, namun sebelum ini memerlukan kod komputer yang direka dengan rumit untuk menyebabkan kerosakan.
Apabila alat AI berevolusi daripada sekadar menjana teks, imej atau video kepada menjadi ‘ejen’ yang boleh melayari internet secara bebas, potensi untuk ia dikawal oleh penggodam melalui arahan tersembunyi semakin meningkat.
“Orang ramai perlu faham bahawa terdapat bahaya khusus apabila menggunakan AI dari sudut keselamatan,” kata jurutera perisian Marti Jorda Roca dari NeuralTrust, yang
pakar dalam keselamatan model bahasa besar.
Meta menyifatkan ancaman query injection ini sebagai satu kelemahan, manakala Ketua Pegawai Keselamatan Maklumat OpenAI, Dane Stuckey, menganggapnya sebagai “isu keselamatan yang belum diselesaikan.”
Kedua-dua syarikat itu sedang melaburkan berbilion dolar dalam pembangunan AI yang semakin meningkat penggunaannya dan keupayaannya.
AI ‘TERSASAR’
Serangan query injection boleh berlaku secara masa nyata apabila arahan pengguna seperti “tempahkan hotel untuk saya”, dimanipulasi oleh penggodam menjadi sesuatu yang berbahaya seperti “pindahkan $100 ke akaun ini.”
Namun, arahan berbahaya ini juga boleh tersembunyi di internet, menunggu untuk diakses oleh ejen AI yang terbina dalam pelayar web ketika ia menemui data dalam talian yang mencurigakan atau mengandungi perintah tersembunyi.
Eli Smadja daripada firma keselamatan siber menyifatkan query injection sebagai “masalah keselamatan nombor satu” bagi model bahasa besar yang menjadi asas kepada ejen dan pembantu AI yang berkembang pesat selepas revolusi ChatGPT.
Syarikat-syarikat utama dalam industri AI telah memperkenalkan langkah perlindungan dan menerbitkan garis panduan bagi menghalang serangan siber seperti ini.
Microsoft telah menggabungkan alat pengesan arahan berbahaya berdasarkan faktor seperti sumber asal arahan untuk agen AI.
OpenAI pula memberi amaran kepada pengguna apabila ejen mereka mengakses laman web sensitif, dan akan menghentikan proses tersebut sehingga pengguna manusia menyelia secara langsung.
Sesetengah pakar keselamatan mencadangkan agar ejen AI diwajibkan mendapat kelulusan pengguna sebelum melaksanakan tugasan penting, seperti mengeksport data atau mengakses akaun bank.
“Satu kesilapan besar yang saya lihat ialah memberi satu ejen AI kuasa penuh untuk melakukan segala-galanya,” kata Smadja kepada AFP.
Bagi penyelidik keselamatan siber Johann Rehberger, yang dikenali dalam industri sebagai “wunderwuzzi,” cabaran utama ialah taktik penggodam yang semakin canggih.
“Taktik mereka hanya akan menjadi lebih baik,” katanya.
Beliau menambah bahawa cabaran sebenar ialah mencari keseimbangan antara keselamatan dan kemudahan penggunaan, kerana orang ramai mahu kemudahan AI tanpa perlu sentiasa memantau tindakannya.
Rehberger berpendapat bahawa ejen AI masih belum cukup matang untuk dipercayai menjalankan tugas penting atau mengendalikan data sensitif.
“Saya tidak fikir kita berada pada tahap di mana kita boleh membiarkan ejen AI bertindak bebas dalam jangka masa panjang dengan selamat,” katanya.
“Ia pasti akan tersasar.” – AFP
