Perusahaan Keamanan Siber Jepang Peringatkan Risiko URL Palsu dari AI Generatif

Perusahaan keamanan siber di Jepang memperingatkan bahwa kecerdasan buatan (AI) generatif dapat mengarahkan pengguna ke situs belanja palsu atau situs penipuan melalui jawaban yang tidak akurat. Trend Micro menganalisis jalur akses yang digunakan pengguna untuk menjangkau situs berbahaya tersebut sepanjang Februari.

Tercatat ada lebih dari 420 kasus di mana pengguna mengakses situs semacam itu melalui URL yang diberikan oleh sistem AI generatif, termasuk ChatGPT. Dalam sebuah pengujian, saat para ahli meminta AI untuk menunjukkan situs resmi aplikasi pembuat video, tautan yang muncul justru mengarah ke situs penipuan yang meminta informasi kartu kredit dan data pribadi.

Dalam eksperimen lain, AI memberikan URL situs belanja palsu saat ditanya mengenai platform penjualan produk populer. Trend Micro menjelaskan bahwa pengelola situs palsu sering memanipulasi peringkat mesin pencari agar berada di posisi atas, sehingga AI dapat merujuk pada informasi keliru tersebut dan menyajikannya kepada pengguna.

Kenichiro Motono, analis utama di Trend Micro yang menangani kasus penipuan, menyatakan bahwa masyarakat perlu menyadari risiko AI memberikan jawaban yang salah. Ia menyarankan pengguna untuk selalu melakukan langkah perlindungan, seperti memverifikasi informasi melalui saluran resmi lainnya.