AI semakin canggih, cabaran kepercayaan digital semakin besar – ITU

KUALA LUMPUR – Kemajuan kecerdasan buatan (AI) yang membolehkan ejen AI merancang dan melaksanakan tugasan secara autonomi menjadikan isu identiti, akauntabiliti dan kepercayaan digital semakin mencabar.

Ketua Perancangan Strategik dan Keahlian, Kesatuan Telekomunikasi Antarabangsa (ITU), Sulyna Abdullah berkata, masyarakat kini berdepan persoalan baharu mengenai siapa yang berada di sebalik sesuatu interaksi digital, termasuk sama ada komunikasi diterima benar-benar datang daripada institusi yang dipercayai.

Katanya, perkembangan teknologi turut berlaku ketika scam dan penipuan dalam talian semakin menguji tahap kepercayaan orang ramai terhadap perkhidmatan digital.

“AI telah menjadikan persoalan identiti jauh lebih mencabar.

“Kita bergerak daripada AI yang hanya menjawab soalan kepada ejen AI yang boleh merancang, bertindak dan membuat keputusan. Jadi bagaimana sistem lain mengetahui identiti ejen itu dan apa yang dibenarkan untuk dilakukannya?

“Dan jika sesuatu yang tidak kena berlaku, siapa yang bertanggungjawab?” katanya ketika menyampaikan ucaptama sempena M360 ASEAN 2026 di Hotel Grand Hyatt, di sini hari ini.

Menurutnya, ITU kini memberi tumpuan kepada pembangunan standard berkaitan kepercayaan dan identiti untuk manusia serta ejen AI.

Beliau berkata, usaha itu bertujuan mencari pendekatan praktikal bagi mewujudkan identiti, mengurus kepercayaan dan memastikan kawalan manusia yang bermakna terus dikekalkan ketika keupayaan ejen AI semakin berkembang.

Pada masa sama, Sulyna berkata, perlindungan pengguna, khususnya kanak-kanak, juga perlu menjadi keutamaan dalam pembangunan ekosistem digital.

Katanya, kerajaan boleh menetapkan perlindungan berdasarkan umur, namun mekanisme itu perlu dapat dilaksanakan merentasi pelbagai platform tanpa menjejaskan aspek kepercayaan.

“Standard adalah sebahagian daripada jawapannya. Kerajaan boleh bekerjasama dengan rakan industri untuk menentukan perlindungan yang diperlukan,” katanya.

Beliau berkata, masyarakat akhirnya mahu mendapatkan jawapan kepada persoalan sama ada mereka berasa selamat menggunakan teknologi, boleh mendapat manfaat daripadanya dan sama ada sistem yang mereka bergantung kepadanya boleh dipercayai.

M360 ASEAN 2026 yang julung kali diadakan di Malaysia menghimpunkan pembuat dasar, pengawal selia, pemimpin industri dan pemain teknologi bagi meneliti bagaimana ASEAN boleh menterjemahkan aspirasi digitalnya kepada tindakan di peringkat serantau.

Acara selama dua hari sehingga esok itu dianjurkan oleh M360 Series dengan kerjasama Kementerian Komunikasi dan Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) sebagai rakan hos.