Kampanye Deep Fake Misi Massa Menargetkan Pemilihan Presiden AS
Mass deep fake campaign targets the US presidential election https://dailyai.com/2024/02/mass-deep-fake-campaign-targets-the-us-presidential-election/

Keterangan Gambar : Kampanye Deep Fake M

Institut untuk Dialog Strategis (ISD) menganalisis kampanye pengaruh online yang diselenggarakan oleh jaringan China untuk mengganggu pemilihan presiden AS. Operasi ini, yang disebut 'Spamouflage' karena taktiknya yang menipu, telah dikaitkan dengan Partai Komunis China (PKC).

Kampanye ini menggunakan kecerdasan buatan (AI) dan jaringan akun media sosial untuk membahas dan memprovokasi topik pemilihan AS, termasuk masalah seperti penyalahgunaan obat, tunawisma, dan kekerasan senjata. Sekitar setengah dari populasi dunia berpartisipasi dalam pemilihan tahun ini, menyebabkan kecemasan luas tentang potensi deep fake AI untuk memperkuat disinformasi dan mempengaruhi perilaku pemilih.

Secara khusus, kampanye 'Spamouflage' menggunakan gambar-gambar yang dihasilkan oleh AI dan dimanipulasi dari tokoh-tokoh politik seperti Joe Biden dan Donald Trump untuk menekankan dan memanfaatkan perpecahan politik.

Laporan ISD mengungkapkan, "Kampanye online ini menggunakan kecerdasan buatan (AI) dan jaringan akun media sosial dalam upaya yang tampaknya untuk mencemarkan citra AS sebagai negara yang dipenuhi penyalahgunaan obat, tunawisma, dan kekerasan senjata."

Elise Thomas dari ISD mengatakan, "Di antara narasi yang dipropagandakan adalah klaim yang melibatkan penggunaan obat oleh Presiden Biden untuk meningkatkan kinerja pidatonya dan tuduhan korupsi."

Operasi ini, diyakini berasal dari China, telah aktif sejak setidaknya 2017. Pengembangan baru terjadi pada April 2023 ketika Departemen Kehakiman AS menuduh 40 karyawan dari Kelompok Kerja Proyek Khusus 912 Kementerian Keamanan Publik China, menunjukkan keterlibatan mereka dalam kampanye 'Spamouflage' yang kemungkinan besar.

Fokus 'Spamouflage' sekarang beralih ke kontes antara Biden dan Trump. Gambar-gambar jelas dihasilkan oleh AI, sebuah taktik umum di antara pelaku ancaman yang menggunakan teknologi ini untuk membuat deep fake yang berdampak visual tinggi.

Namun, gambar deep fake terus lolos dari sistem deteksi konten untuk dilihat oleh jutaan orang.

Narratif yang membentuk kampanye 'Spamouflage'

ISD, didirikan pada tahun 2006 sebagai organisasi nirlaba dan nonpartisan dengan tujuan untuk mengatasi disinformasi, mengidentifikasi beberapa naratif kunci di antara konten:

- Pembelahan pemilihan: Naratif ini menggambarkan pemilihan sebagai pemicu bagi pembelahan lebih lanjut, memperburuk tantangan yang ada di Amerika. Gambar sering menunjukkan Biden dan Trump secara konfrontatif, mengisyaratkan perpecahan politik yang dalam yang dieksploitasi.

- Fokus negatif pada Biden: Kampanye ini tampaknya secara tidak proporsional menargetkan Presiden Biden dengan naratif negatif, termasuk tuduhan korupsi dan penyalahgunaan obat.

- Sikap ambigu terhadap Trump: Menariknya, konten yang terkait dengan Trump seringkali memiliki nada ambigu yang bisa diartikan sebagai positif.

- Naratif tentang keruntuhan nasional: Sebagian besar konten fokus pada menggambarkan gambaran suram tentang AS, menyinggung tentang keruntuhan perkotaan, krisis opioid, dan kekerasan senjata untuk menumbuhkan rasa kekacauan.

- Mempertanyakan integritas pemilihan: Meskipun bukan fokus utama, ada konten yang meragukan integritas pemilihan.

- Kebijakan aborsi: Isu aborsi muncul dalam beberapa gambar, dengan beberapa konten yang menyarankan ketidakmampuan Biden dalam melindungi hak aborsi, disandingkan dengan klaim bahwa Trump mencari larangan federal terhadap aborsi.

'Spamouflage' bisa memiliki pengaruh internasional

Jaringan 'Spamouflage' pada dasarnya aktif di AS, tetapi tim OSINT India Today menemukan bukti aktivitas kampanye ini di India. Tidak mungkin untuk mengetahui berapa banyak kampanye semacam ini yang saat ini aktif di seluruh dunia.

Respon Meta terhadap kampanye ini telah cepat, menghapus ribuan akun yang terkait dengan konten tersebut. Namun, Meta dikritik karena responsnya yang lambat.

Meskipun upaya yang luas dari kampanye 'Spamouflage', efektivitasnya dalam hal keterlibatan nyata dari pengguna media sosial tetap dipertanyakan. Laporan ISD menunjukkan bahwa sebagian besar konten yang dihasilkan oleh jaringan ini gagal beresonansi dengan audiens, menyebabkan interaksi minimal. Namun, penelitian telah menunjukkan bahwa gambar deep fake memiliki dampak nyata pada proses pengambilan keputusan manusia, jadi terlalu cepat untuk menutupi dampaknya.

Dalam hal apapun, kampanye 'Spamouflage' sekali lagi mengingatkan kita akan peran AI dalam gelombang disinformasi yang semakin canggih.