Apakah kita bisa mempercayai apa yang kita lihat? Insiden deep fake AI mengganggu proses demokrasi..
Can we trust what we see? AI deep fake incidents jar democratic processes https://dailyai.com/2024/01/can-we-trust-what-we-see-ai-deep-fake-incidents-jar-democratic-processes/

Keterangan Gambar : Apakah kita bisa mem

AI Deep Fake: Ancaman Terhadap Politik dan Demokrasi

Deep fake, teknologi manipulasi digital yang canggih berkat kecerdasan buatan (AI), memperumit batas antara realitas dan fiksi, sehingga semakin sulit untuk membedakan konten asli dari media yang dimanipulasi.

Sudah jelas bahwa kita hidup di era di mana kita tidak bisa lagi mempercayai apa yang kita lihat. Teknologi deep fake AI dapat menciptakan dan mengubah gambar, video, dan rekaman audio, sehingga membuat tokoh publik terlihat mengucapkan kata-kata yang sebenarnya tidak pernah mereka ucapkan atau terlihat berada dalam situasi yang tidak pernah terjadi.

Penyebaran informasi yang salah telah menjadi fokus utama dalam perdebatan risiko AI, karena deep fake yang melibatkan politisi, tokoh publik, dan orang biasa tampak meningkat dalam frekuensi dan tingkat keparahan.

Ada kekhawatiran yang nyata bahwa deep fake akan mengganggu proses demokrasi, dengan beberapa contoh kunci yang menggambarkan bagaimana teknologi ini dapat secara nyata mempengaruhi perilaku masyarakat.

Mari kita telaah beberapa insiden deep fake AI yang paling mencolok yang telah mempengaruhi politik dalam beberapa bulan terakhir.

Insiden Deep Fake Kanselir Jerman Olaf Scholz

Pada November 2023, Jerman menyaksikan deep fake AI yang salah menggambarkan Kanselir Olaf Scholz mendukung larangan terhadap partai sayap kanan Alternative for Germany (AfD).

Video deep fake ini merupakan bagian dari kampanye yang lebih luas oleh kelompok seni-aktivisme, Center for Political Beauty (CPB), dan bertujuan untuk menarik perhatian terhadap pengaruh kontroversial AfD.

CPB adalah kelompok seni-aktivisme Jerman yang dikenal dengan proyek-proyek provokatifnya yang menggabungkan seni dengan aktivisme politik. Dipimpin oleh filsuf dan seniman Philipp Ruch, kelompok ini bertujuan untuk menciptakan "puisi politik" dan "keindahan moral", mengatasi isu-isu kontemporer seperti pelanggaran hak asasi manusia, kediktatoran, dan genosida.

CPB telah terlibat dalam banyak proyek kontroversial, seperti instalasi "Search for Us" di dekat Bundestag, yang mereka klaim berisi tanah dari bekas kamp kematian dan sisa-sisa korban Holocaust.

Insiden deep fake terbaru ini terjadi di tengah seruan yang semakin meningkat untuk mengambil tindakan hukum terhadap AfD menyusul laporan tentang pertemuan rahasia yang melibatkan anggota AfD dan kelompok ekstremis. Kritik terhadap AfD mengingatkan pada sejarah Jerman pada tahun 1930-an.

Meskipun dukungan terhadap AfD telah meningkat, banyak protes di seluruh Jerman menunjukkan adanya penentangan yang kuat terhadap ideologi AfD.

Jurubicara kelompok di balik deep fake tersebut menyatakan, "Menurut pandangan kami, ekstremisme sayap kanan di Jerman yang duduk di parlemen lebih berbahaya."

Meskipun kritis terhadap retorika AfD, Kanselir Scholz - pemimpin politik Jerman saat ini - telah menyatakan skeptisisme terhadap gagasan pelarangan secara langsung.

Para pejabat AfD bereaksi terhadap kampanye deep fake ini dengan kekhawatiran, menganggapnya sebagai taktik penipuan yang bertujuan untuk mencoreng citra partai dan mempengaruhi opini publik.

Ronald Gläser, seorang politisi AfD, mengkritik kampanye tersebut karena mencoba mengkriminalisasi perbedaan pendapat, dengan menyatakan, "Siapa pun yang mengkritik kondisi di Jerman difitnah sebagai penjahat dan dicemarkan dengan foto penjahat."

Isu pelarangan AfD ini kompleks, melibatkan tantangan hukum dan konstitusional. Para ahli memperingatkan bahwa meskipun pelarangan mungkin dapat mengatasi beberapa kekhawatiran segera, hal itu mungkin gagal menangani masalah yang lebih dalam.

Deep fake AI telah digunakan untuk aktivisme politik sebelumnya, seperti ketika Imran Khan, mantan Perdana Menteri Pakistan yang sekarang dipenjara karena membocorkan rahasia negara, menggunakan AI untuk memberikan pidato dalam rapat virtual.

Insiden Deep Fake Joe Biden di New Hampshire

Pada Januari 2024, di New Hampshire, AS, sebuah panggilan otomatis yang meniru suara Biden mendorong para pemilih untuk "menyimpan suara Anda untuk pemilihan November," dengan keliru menyiratkan bahwa berpartisipasi dalam pemilihan primer akan secara tidak sengaja menguntungkan Donald Trump.

Panggilan ini dikaitkan dengan nomor ponsel pribadi Kathy Sullivan, mantan ketua Partai Demokrat negara bagian. Sullivan mengutuk tindakan tersebut sebagai bentuk campur tangan pemilihan yang jelas dan pelecehan pribadi.

Kantor Jaksa Agung New Hampshire menyatakan bahwa ini adalah upaya ilegal untuk mengganggu pemilihan presiden dan menekan partisipasi pemilih.

Audio palsu ini diidentifikasi telah dihasilkan menggunakan ElevenLabs, perusahaan terkemuka dalam sintesis ucapan, yang kemudian menangguhkan pelakunya.

ElevenLabs mengatakan, "Kami berkomitmen untuk mencegah penyalahgunaan alat AI audio dan menganggap serius setiap insiden penyalahgunaan."

CEO perusahaan, Mati Staniszewski, menyatakan sikap ElevenLabs terhadap insiden tersebut: "Audio yang meniru suara tanpa izin akan dihapus."

ElevenLabs memungkinkan pengguna untuk membuat replika AI dari suara mereka sendiri atau memilih dari suara-suar yang sudah ada untuk narasi teks-ke-suara yang hidup.

PM Inggris Rishi Sunak Terlibat dalam Penipuan

Pada Januari 2024, sebuah perusahaan riset di Inggris menemukan bahwa PM Rishi Sunak terlibat dalam lebih dari 100 iklan video yang menyesatkan yang disebarluaskan terutama di Facebook, mencapai sekitar 400.000 individu.

Iklan-iklan ini, yang berasal dari berbagai negara, termasuk AS, Turki, Malaysia, dan Filipina, mempromosikan skema investasi penipuan yang salah dikaitkan dengan tokoh terkenal seperti Elon Musk.

Penelitian yang dilakukan oleh perusahaan komunikasi online Fenimore Harper, menyoroti bagaimana perusahaan media sosial tidak merespons konten semacam ini dalam waktu yang wajar.

Salah satu iklan deep fake ini menarik pengguna ke halaman berita palsu BBC yang mempromosikan investasi penipuan. S