Perusahaan Teknologi Bersatu untuk Mengatasi Tindakan Pemilu Palsu Berbasis Algoritma
Tech companies band together to tackle deep fake electioneering https://dailyai.com/2024/02/tech-companies-band-together-to-tackle-deep-fake-electioneering/

Keterangan Gambar : Perusahaan Teknologi

Pada Konferensi Keamanan Munich, sebuah koalisi dari 20 raksasa teknologi, termasuk OpenAI, Meta, Microsoft, dan lainnya, menyatakan upaya bersama untuk melawan konten AI yang menyesatkan yang mempengaruhi pemilihan umum di seluruh dunia.

Hal ini terjadi di tengah kekhawatiran yang semakin meningkat bahwa deep fake yang dihasilkan oleh AI dapat memanipulasi proses pemilihan umum, terutama karena pemilihan besar akan dilaksanakan di beberapa negara tahun ini.

Kita sudah melihat deep fake memainkan peran dalam pemilihan di Pakistan, Indonesia, Slovakia, dan Bangladesh, setidaknya.

Perjanjian baru ini mencakup komitmen untuk mengembangkan alat-alat untuk mendeteksi dan mengatasi media AI yang menyesatkan, meningkatkan kesadaran publik tentang konten yang menyesatkan, dan mengambil tindakan cepat untuk menghapus konten tersebut dari platform-platform mereka.

Namun, apa yang berbeda sekarang?

Meskipun detail-detail mengenai jadwal implementasi masih kabur, perusahaan-perusahaan menekankan perlunya pendekatan kolektif untuk mengatasi ancaman yang terus berkembang ini.

Perusahaan teknologi berjanji untuk menggunakan alat-alat kolaboratif untuk mendeteksi dan mengurangi penyebaran konten AI yang merugikan dalam pemilihan, termasuk teknik watermarking untuk memverifikasi asal usul konten dan perubahan. Mereka juga berkomitmen untuk transparansi mengenai upaya mereka dan menilai risiko yang ditimbulkan oleh model AI generatif mereka.

"Saya pikir kegunaan dari kesepakatan ini adalah luasnya perusahaan yang menandatanganinya," kata Nick Clegg, presiden urusan global di Meta Platforms.

"Semua baik dan bagus jika platform-platform individu mengembangkan kebijakan baru deteksi, provenance, labeling, watermarking, dan sebagainya, tetapi kecuali ada komitmen yang lebih luas untuk melakukannya secara bersama dalam cara yang interoperabel, kita akan terjebak dengan berbagai komitmen yang berbeda."

Sekali lagi, ini bukan hal baru yang kita dengar. Sudah ada beberapa kesepakatan lintas industri, namun tidak ada rencana yang efektif untuk menghentikan deep fake.

Deep fake tidak mudah dideteksi, terutama tidak dalam skala besar. Mereka menjadi begitu mirip dengan hal yang nyata sehingga mengidentifikasinya menggunakan teknik AI atau algoritmik sangat sulit.

Perusahaan teknologi telah merespons dengan menandai konten dengan metadata, mengidentifikasinya sebagai AI-generated, tetapi bagaimana cara mengidentifikasi tujuan dari gambar tersebut?

Metadata juga mudah dihapus dari sebuah file. Selain itu, akan selalu ada perusahaan AI yang tidak patuh dengan kesepakatan dan cara untuk menghindari kontrol yang ada.

Dana Rao, Chief Trust Officer Adobe, menjelaskan bagaimana dan mengapa konten ini efektif, dengan mengatakan, "Ada hubungan emosional dengan audio, video, dan gambar," katanya. "Otak Anda terkait untuk percaya kepada media semacam itu."

Memang, deep fake tampaknya menyebar jauh setelah dinyatakan palsu. Meskipun sulit untuk mengukur seberapa banyak mereka mengubah perilaku kita, skala besar dampak mereka - dengan konten yang dilihat oleh jutaan orang pada satu waktu - bukanlah sesuatu yang bisa diambil risiko.

Faktanya adalah kita dapat mengharapkan lebih banyak insiden dan kontroversi terkait deep fake yang terkait dengan AI.

Kesadaran individu dan pemikiran kritis akan menjadi senjata terbesar manusia untuk melawan dampak negatif tersebut.