Platform media sosial gagal tangani penipuan berasaskan AI

Kementerian Komunikasi mengakui beberapa penyedia platform media sosial gagal mematuhi sepenuhnya arahan penurunan kandungan manipulasi dan penipuan yang dijana menerusi teknologi kecerdasan buatan (AI).

Menterinya, Datuk Fahmi Fadzil, berkata ini dilihat menerusi siri kandungan janaan AI membabitkan individu kenamaan di negara ini, termasuk Yang di-Pertuan Agong, Sultan Ibrahim, dan Perdana Menteri, Datuk Seri Anwar Ibrahim.

Beliau berkata menerusi pengamatan peribadi serta Suruhanjaya Komunikasi dan Multimedia (MCMC), platform media sosial tidak mengambil serius isu keselamatan dalam talian membabitkan kandungan AI.

“Ini terbukti apabila Sultan Ibrahim dan Datuk Anwar sendiri menjadi mangsa penipuan deepfake (palsu mendalam), kononnya mempromosikan skim pelaburan (secara dalam talian).

“Penyedia platform media sosial juga hanya menurunkan 1,346 kandungan penipuan berasaskan AI berbanding 1,602 permohonan dikemukakan MCMC, antara 1 Januari 2024 dengan 31 Ogos.

“Ini mempamerkan kadar pematuhan (penyedia platform media sosial terhadap arahan kerajaan) adalah sebanyak 84 peratus,” katanya pada sesi lisan di Dewan Negara pada Selasa.

Beliau menjawab soalan Senator Rita Sarimah Patrick Insol mengenai kes penipuan dikesan menggunakan AI dalam tempoh dua tahun ini, serta tindakan bagi meningkatkan kesedaran masyarakat berkaitan penipuan membabitkan penggunaan teknologi itu.

Sementara itu, Fahmi berkata kerajaan akan menguatkuasakan Akta Keselamatan Dalam Talian 2025 (Akta 866) antara hujung tahun 2025 atau awal 2026, memandangkan terdapat keperluan mendesak penguatkuasaan undang-undang itu.

Ahli Parlimen Lembah Pantai itu berkata ini antara lain bakal mewajibkan semua platform media sosial dan pemesejan dalam talian menggunakan label pada kandungan berasaskan AI.

“Platform diwajibkan menggunakan label seperti ‘AI Generated’ atau ‘AI Enhanced’ pada gambar atau kandungan AI. Kita akui AI boleh menambah baik sesuatu visual, namun tidak mahu disalahgunakan bagi tujuan penipuan yang akhirnya merugikan orang ramai,” katanya.

Beliau berkata menerusi Akta 866, penyedia perkhidmatan juga perlu menyediakan pelan keselamatan dalam talian bagi menunjukkan pematuhan terhadap kewajipan undang-undang, manakala MCMC meneliti kemungkinan mengenakan syarat pelesenan kepada aplikasi menggunakan AI.

“Kerajaan menerusi inisiatif lebih luas turut menubuhkan Pusat Respons Penipuan Kebangsaan (NSRC), diterajui Polis Diraja Malaysia dengan kerjasama Kementerian Komunikasi, Kementerian Dalam Negeri, Bank Negara Malaysia dan MCMC bagi membanteras penipuan digital.

“Selain bertindak sebagai pusat tindakan segera, NSRC juga melaksanakan program kesedaran awam dan kempen nasional berkaitan jenayah digital,” katanya.-10/9/2025