Deepfake AI Bayangi Pemilu Jepang, Tantangan Baru Demokrasi Digital

Misinformasi bukanlah hal baru dalam pemilu. Yang baru adalah betapa meyakinkannya hal itu sekarang. Dalam pemilu Majelis Rendah Jepang baru-baru ini, gambar dan video yang dihasilkan AI menyebar luas secara online, membuatnya lebih sulit dari sebelumnya untuk membedakan mana yang nyata.

Sebuah video jalanan yang dihasilkan AI mendapatkan banyak penayangan dan repost menjelang pemilu pada 8 Februari. Video palsu yang menunjukkan seorang wanita diwawancarai di jalanan ini ditonton lebih dari 400.000 kali. Dalam klip tersebut, ia tampak mengkritik partai politik tertentu.

Video itu pertama kali muncul di YouTube dengan deskripsi sebagai hasil buatan AI, namun diposting ulang berulang kali di X tanpa keterangan tersebut.

Alat AI memudahkan pembuatan seluruh program berita yang hampir tidak dapat dibedakan dari aslinya. Dalam satu contoh, sebuah program tampak melaporkan kesalahan salah satu partai politik. Sepintas terlihat otentik, namun logo kecil di pojok kanan bawah menunjukkan bahwa itu dihasilkan oleh AI.

Profesor Taira Kazuhiro dari Universitas J. F. Oberlin, spesialis jurnalisme digital, mengatakan teknologi ini telah menurunkan hambatan untuk menipu — dan meningkatkan taruhannya.

“Layanan telah muncul yang membuatnya sangat mudah untuk membuat konten yang sangat realistis menggunakan AI,” katanya. “Semakin otentik kelihatannya, semakin persuasif jadinya. Dan kini dimungkinkan untuk membuat dan menyebarkan video yang merusak kandidat atau partai politik.”

Peluncuran Sora 2 dari OpenAI musim gugur lalu menandai titik balik. Volume konten visual yang dihasilkan AI melonjak. Kini, gambar dan video realistis dapat dibuat dalam hitungan menit menggunakan perintah teks sederhana. Meski banyak alat AI menyertakan tanda air (watermark), pengguna seringkali dapat membayar untuk menghapusnya.

Hal itu membuat verifikasi keaslian semakin sulit, dan para ahli memperingatkan agar masyarakat berhati-hati terhadap video viral.

Pajak konsumsi dan langkah-langkah mengatasi kenaikan harga menjadi isu utama dalam pemilu baru-baru ini. Saat perdebatan memanas tentang alokasi anggaran, informasi tidak berdasar menyebar. Salah satu postingan yang beredar luas mengklaim: “Menghapuskan Badan Anak dan Keluarga dengan anggaran lebih dari 7 triliun yen akan membebaskan cukup uang untuk memberikan 10 juta yen kepada setiap bayi baru lahir.”

Klaim anggaran 7,3 triliun yen memang akurat untuk tahun fiskal ini. Namun menghapuskan badan tersebut, yang mendanai sekolah TK, tunjangan anak, dan tunjangan cuti pengasuhan anak, adalah hal yang tidak realistis. Akurasi angka anggaran bisa memberikan rasa legitimasi palsu.

Para ahli mengatakan konten pemilu yang menyesatkan biasanya masuk dalam salah satu dari tiga kategori besar:

1. Didorong profit: Platform medsos memungkinkan monetisasi. Klaim sensasional memancing emosi dan meningkatkan engagement (dan uang).
2. Pendukung politik: Berbagi informasi berlebihan atau menyesatkan untuk membantu partai/kandidat pilihan mereka.
3. Manipulasi aktor asing: Belum ada bukti jelas hal ini terjadi pada pemilu Jepang kali ini.

Karena media sosial menjadi sumber informasi politik yang kian sentral, tantangan membedakan fakta dari manipulasi hampir pasti akan tumbuh. Di era AI, di mana konten sering dirancang untuk memacu engagement alih-alih memberi informasi, berhenti sejenak sebelum membagikan (sharing) adalah hal yang esensial.