Deepfake AI Membayangi Pemilu Jepang

Sebuah video wawancara jalanan buatan AI meraih banyak tayangan dan dibagikan ulang menjelang pemilu Majelis Rendah pada 8 Februari.

Video palsu yang menampilkan seorang perempuan sedang diwawancarai di jalan itu ditonton lebih dari 400.000 kali.

Dalam klip tersebut, ia tampak mengkritik sebuah partai politik tertentu.

Video itu pertama kali muncul di YouTube dengan keterangan bahwa tayangan tersebut dibuat oleh AI, tetapi kemudian berulang kali dibagikan ulang di X tanpa keterangan itu.

Perangkat AI memudahkan pembuatan program berita utuh yang nyaris tak bisa dibedakan dari yang asli.

Dalam salah satu contohnya, sebuah program tampak memberitakan dugaan pelanggaran oleh sebuah partai politik. Sepintas terlihat autentik, tetapi logo kecil di sudut kanan bawah layar menunjukkan bahwa program itu dibuat oleh AI.

Profesor Taira Kazuhiro dari J. F. Oberlin University, pakar jurnalisme digital, mengatakan bahwa teknologi ini telah menurunkan hambatan untuk melakukan penipuan sekaligus meningkatkan risikonya.

Menurutnya, kini telah muncul layanan yang membuat pembuatan konten AI yang sangat realistis menjadi amat mudah. Semakin autentik tampilannya, semakin kuat pula daya bujuknya. Kini juga стало mungkin untuk membuat dan menyebarkan video yang merugikan kandidat atau partai politik.

Tidak Semua Konten AI Diberi Label

Peluncuran Sora 2 dari OpenAI pada musim gugur tahun lalu menjadi titik balik. Sejak itu, jumlah konten visual buatan AI melonjak.

Kini, gambar dan video realistis bisa dibuat dalam hitungan menit hanya dengan prompt teks sederhana. Meski banyak alat AI menambahkan watermark atau label, pengguna kerap bisa membayar untuk menghapusnya.

Kondisi ini membuat verifikasi atas mana yang autentik kian sulit, dan para pakar memperingatkan agar masyarakat berhati-hati saat menanggapi video yang viral.

Waspadai Cherry Picking

Tidak semua unggahan yang menyesatkan sepenuhnya dibuat-buat. Sebagiannya memuat fakta yang akurat, tetapi disajikan secara selektif. Praktik cherry picking dilakukan dengan menonjolkan hanya data yang mendukung suatu klaim, sambil mengabaikan konteks yang lebih luas.

Pajak konsumsi dan langkah untuk menghadapi kenaikan harga menjadi isu utama dalam pemilu terbaru. Di tengah memanasnya perdebatan tentang bagaimana pemerintah seharusnya mengalokasikan anggaran, informasi tak berdasar atau misinformasi mengenai isu-isu itu menyebar di internet dan menarik sangat banyak tayangan.

Salah satu unggahan berbunyi: Membubarkan Badan Anak dan Keluarga yang memiliki anggaran lebih dari 7 triliun yen akan membebaskan dana yang cukup untuk memberikan 10 juta yen kepada setiap bayi yang baru lahir.

Unggahan serupa juga mengklaim bahwa membubarkan badan itu akan membebaskan dana yang cukup untuk menghapus pajak konsumsi.

Anggaran badan tersebut pada tahun fiskal ini memang mencapai 7,3 triliun yen, jadi bagian itu akurat. Namun, membubarkan badan yang mendanai penitipan anak, tunjangan anak, dan tunjangan cuti pengasuhan itu bukan hal yang realistis.

Keakuratan angka anggaran itu dapat menimbulkan kesan legitimasi yang keliru.

Contoh lain melibatkan klaim tentang dukungan pemerintah bagi warga asing. Salah satu unggahan yang dibagikan luas berbunyi: Jika Anda menyewakan mobil kepada orang asing, Anda akan menerima subsidi.

Unggahan itu meraih 1,7 juta tayangan.

Unggahan lain, yang meraih lebih dari 900.000 tayangan, mengklaim bahwa mempekerjakan orang asing akan membuat Anda menerima subsidi ratusan ribu yen per orang.

Klaim-klaim itu beredar di tengah narasi yang lebih luas bahwa orang asing menerima perlakuan istimewa di Jepang.

Kementerian Pertanahan, Infrastruktur, Transportasi, dan Pariwisata serta Kementerian Kesehatan, Perburuhan, dan Kesejahteraan membantah kedua klaim tersebut. Misalnya, subsidi diberikan kepada operator mobil sewaan yang memiliki situs web multibahasa untuk melayani wisatawan asing yang datang ke Jepang. Selain itu, hingga 800.000 yen akan diberikan kepada pelaku usaha yang menggunakan peraturan kerja dan manual internal multibahasa, serta membangun sistem konsultasi.

Siapa Penyebar Misinformasi?

Para ahli mengatakan konten pemilu yang menyesatkan umumnya terbagi ke dalam tiga kategori besar.

Kategori pertama didorong oleh motif keuntungan.

Banyak platform video dan media sosial memungkinkan pengguna memperoleh uang dari unggahan mereka. Semakin banyak tayangan yang mereka tarik, semakin besar pula penghasilan yang mereka dapatkan. Klaim palsu yang sensasional sering digunakan untuk memancing emosi dan meningkatkan keterlibatan.

Kategori kedua melibatkan pendukung politik yang menyebarkan informasi yang dibesar-besarkan atau menyesatkan untuk membantu partai atau kandidat pilihan mereka.

Kategori ketiga adalah manipulasi oleh pihak asing. Tidak ada bukti jelas yang menunjukkan hal ini terjadi dalam pemilu terbaru di Jepang.

Pentingnya Bersikap Skeptis

Seiring media sosial kian menjadi sumber utama informasi politik, tantangan untuk membedakan fakta dari manipulasi hampir pasti akan makin besar.

Para ahli mengatakan kebiasaan sederhana, seperti memeriksa siapa yang mengunggah suatu klaim, dari mana asalnya, dan jenis informasi seperti apa yang biasa mereka bagikan, dapat mengurangi risiko termakan atau ikut menyebarkan informasi palsu.

Di era AI, ketika konten kerap dirancang untuk memicu keterlibatan alih-alih memberi informasi, berhenti sejenak sebelum ikut menyebarkannya menjadi hal yang sangat penting.