Deepfake dalam politik - ketika melihat bukan lagi berarti mempercayai
Deep fakes in politics – when seeing is no longer believing https://dailyai.com/2024/01/can-we-trust-what-we-see-ai-deep-fakes-threaten-political-discourse/

Keterangan Gambar : Deepfake dalam polit

Kami telah memasuki era di mana tidak bisa lagi mempercayai apa yang kita lihat secara online. Pernyataan tersebut sudah sebagian benar selama beberapa dekade, tetapi kecerdasan buatan (AI) telah meningkatkan manipulasi konten ke tingkat baru, jauh melampaui kesadaran publik.

Teknologi deep fake AI dapat membuat dan mengubah gambar, video, dan rekaman audio, sehingga membuat orang-orang terkenal terlihat mengucapkan kata-kata yang sebenarnya tidak pernah mereka ucapkan atau terlihat berada dalam situasi yang tidak pernah terjadi.

Dalam banyak kasus, diperlukan lebih dari sekali pandang untuk menentukan keaslian konten, dan media palsu dapat mengumpulkan jutaan tayangan sebelum teridentifikasi.

Saat ini kita menyaksikan deep fake yang berpotensi mengganggu proses demokrasi, meskipun masih terlalu dini untuk mengukur dampak nyata terhadap perilaku pemilih.

Mari kita telaah beberapa insiden deep fake AI politik yang paling mencolok yang pernah kita saksikan.

Insiden Joe Biden di New Hampshire

Pada Januari 2024, di New Hampshire, AS, sebuah panggilan otomatis yang meniru suara Biden mendorong para pemilih untuk "menyimpan suara Anda untuk pemilihan November," dengan keliru menyiratkan bahwa berpartisipasi dalam pemilihan pendahuluan akan secara tidak sengaja menguntungkan Donald Trump.

Panggilan tersebut dikaitkan dengan nomor ponsel pribadi Kathy Sullivan, mantan ketua Partai Demokrat negara bagian tersebut. Sullivan mengutuk tindakan tersebut sebagai bentuk campur tangan pemilihan yang jelas dan pelecehan pribadi.

Kantor Jaksa Agung New Hampshire menyatakan bahwa ini adalah upaya ilegal untuk mengganggu pemilihan presiden dan menekan partisipasi pemilih.

Audio palsu tersebut diidentifikasi telah dihasilkan menggunakan ElevenLabs, perusahaan terkemuka dalam sintesis ucapan. ElevenLabs kemudian menangguhkan pelaku di balik suara palsu Biden tersebut dan mengatakan, "Kami berkomitmen untuk mencegah penyalahgunaan alat AI audio dan kami sangat serius dalam menangani setiap insiden penyalahgunaan."

Insiden deep fake Kanselir Jerman Olaf Scholz

Pada November 2023, Jerman menyaksikan deep fake AI yang salah menggambarkan Kanselir Olaf Scholz mendukung larangan partai sayap kanan Alternative for Germany (AfD).

Video deep fake ini adalah bagian dari kampanye oleh kelompok seni aktivis, Center for Political Beauty (CPB), dan bertujuan untuk menarik perhatian pada pengaruh yang semakin meningkat dari AfD. Kritik terhadap AfD dikaitkan dengan sejarah Jerman pada tahun 1930-an.

Dipimpin oleh filsuf dan seniman Philipp Ruch, kelompok CPB bertujuan untuk menciptakan "puisi politik" dan "keindahan moral", mengatasi isu-isu kontemporer penting seperti pelanggaran hak asasi manusia, kediktatoran, dan genosida.

CPB telah terlibat dalam banyak proyek kontroversial, seperti instalasi "Search for Us" di dekat Bundestag, yang mereka klaim berisi tanah dari bekas kamp kematian dan sisa-sisa korban Holocaust.

Sementara dukungan terhadap AfD telah meningkat, banyak protes di seluruh Jerman menunjukkan adanya penentangan yang kuat terhadap ideologi AfD.

Jurubicara kelompok di balik deep fake tersebut menyatakan, "Di mata kami, ekstremisme sayap kanan di Jerman yang duduk di parlemen lebih berbahaya."

Pejabat AfD bereaksi terhadap kampanye deep fake tersebut, melihatnya sebagai taktik menyesatkan yang bertujuan untuk mencoreng partai dan mempengaruhi opini publik.

PM Inggris Rishi Sunak terlibat dalam penipuan

Pada Januari 2024, sebuah perusahaan riset di Inggris menemukan bahwa PM Rishi Sunak terlibat dalam lebih dari 100 iklan video yang menyesatkan yang disebarluaskan terutama di Facebook, mencapai sekitar 400.000 individu.

Iklan-iklan ini, yang berasal dari berbagai negara, termasuk AS, Turki, Malaysia, dan Filipina, mempromosikan skema investasi palsu yang secara salah dikaitkan dengan tokoh terkenal seperti Elon Musk.

Penelitian yang dilakukan oleh perusahaan komunikasi online Fenimore Harper menyoroti bagaimana perusahaan media sosial tidak merespons konten semacam ini dalam waktu yang wajar.

Salah satu iklan deep fake ini menarik pengguna ke halaman berita palsu BBC yang mempromosikan investasi penipuan.

Marcus Beard, pendiri Fenimore Harper, menjelaskan bagaimana AI mendemokratisasi disinformasi: "Dengan munculnya kloning suara dan wajah yang murah dan mudah digunakan, diperlukan sedikit pengetahuan dan keahlian untuk menggunakan penampilan seseorang untuk tujuan jahat."

Beard juga mengkritik ketidakcukupan moderasi konten di media sosial, mencatat, "Iklan-iklan ini melanggar beberapa kebijakan periklanan Facebook. Namun, sedikit dari iklan yang kami temui tampaknya telah dihapus."

Pemerintah Inggris menanggapi risiko deep fake penipuan: "Kami bekerja secara ekstensif di seluruh pemerintah untuk memastikan kami siap untuk merespons dengan cepat setiap ancaman terhadap proses demokrasi kami melalui tugas kami dalam mempertahankan demokrasi dan tim pemerintah yang didedikasikan."

Perdana Menteri Pakistan Imran Khan muncul dalam rapat virtual

Pada Desember 2023, mantan Perdana Menteri Pakistan, Imran Khan, yang saat ini dipenjara atas tuduhan membocorkan rahasia negara, muncul dalam rapat virtual menggunakan AI.

Meskipun berada di balik jeruji, avatar digital Khan ditonton oleh jutaan orang, dengan rapat tersebut berisi rekaman dari pidato-pidato masa lalu yang melibatkan partai politiknya, Pakistan Tehreek-e-Insaaf (PTI).

Pidato empat menit Khan berbicara tentang ketahanan dan keteguhan menghadapi represi politik yang dihadapi oleh anggota PTI.

Suara AI mengartikulasikan, "Partai kami tidak diizinkan untuk mengadakan rapat umum. Orang-orang kami diculik dan keluarga mereka diintimidasi," melanjutkan, "Sejarah akan mengingat pengorbananmu."

Mengacaukan situasi, pemerintah Pakistan diduga mencoba memblokir akses ke rapat tersebut.

NetBlocks, sebuah organisasi pemantau internet, menyatakan, "Data menunjukkan platform media sosial utama dibatasi di Pakistan selama hampir 7 jam pada hari Minggu malam selama pertemuan politik online; insiden ini konsisten dengan kejadian sebelumnya tentang sensor internet yang menargetkan pemimpin oposisi Imran Khan dan partainya PTI."

Usama Khilji, pendukung kebebasan berbicara di Pakistan, berkomentar, "Dengan penindasan penuh terhadap hak PTI untuk kebebasan berkumpul dan berbicara melalui penangkapan pemimpinnya, penggunaan kecerdasan buatan oleh partai untuk menyiarkan pidato virtual dengan kata-kata ketua mereka yang dipenjara dan mantan Perdana Menteri Imran Khan menandai titik baru dalam penggunaan teknologi dalam politik Pakistan."

Audio palsu dari mantan Presiden Sudan Omar al-Bashir di TikTok

Sebuah kampanye yang menggunakan kecerdasan buatan di TikTok mengeksploitasi suara mantan Presiden Sudan Omar al-Bashir di tengah kerusuhan sipil yang sedang berlangsung di negara tersebut.

Sejak akhir Agustus 2023, sebuah akun anonim memposting apa yang mereka klaim sebagai