Meta Memperkuat Upaya Membasmi Konten Palsu AI Deep Fake
Meta ups the ante in tackling AI deep fake content https://dailyai.com/2024/02/meta-ups-the-ante-in-tackling-ai-deep-fake-content/

Keterangan Gambar : Meta Memperkuat Upay

Meta telah mengumumkan inisiatif baru untuk meningkatkan transparansi seputar konten yang dihasilkan oleh kecerdasan buatan (AI) di platformnya.

Dalam sebuah pos blog, Nick Clegg, Presiden Urusan Global Meta, menekankan komitmen perusahaan untuk memberi label pada gambar yang dihasilkan oleh AI untuk membantu pengguna membedakan antara konten yang dibuat oleh manusia dan konten sintetis.

Clegg menyatakan, "Saat perbedaan antara konten manusia dan sintetis semakin kabur, orang ingin tahu di mana batasnya." Dia juga menambahkan bahwa Meta telah "bekerja dengan mitra industri untuk menyelaraskan standar teknis yang umum yang menandakan kapan sebuah konten telah dibuat menggunakan AI."

Hal ini terjadi ketika Meta mengakui meningkatnya prevalensi konten AI yang fotorealistik, yang sekarang dikenal luas sebagai deep fake. Taylor Swift adalah korban terbaru dari gambar AI eksplisit yang tidak disetujui, yang pengguna lacak kembali ke 'tantangan' di 4Chan.

Penipuan yang diatur oleh video deep fake berhasil mengekstrak perusahaan multinasional sebesar $25,6 juta pada hari Senin.

Tanggung jawab untuk mencegah penyebaran gambar-gambar ini jatuh pada perusahaan media sosial seperti X dan Meta.

Meta telah memberi label pada gambar-gambar fotorealistik yang dibuat menggunakan fitur Meta AI-nya sendiri sebagai "Dibayangkan dengan AI" dan berencana untuk memperluas praktik ini ke konten yang dihasilkan oleh alat-alat perusahaan lain.

Perusahaan mengatakan bahwa mereka sedang mengembangkan alat yang mampu mengidentifikasi penanda-penanda tak terlihat dan metadata yang tertanam dalam gambar-gambar yang dihasilkan oleh AI, memungkinkan mereka untuk memberi label pada konten dari berbagai sumber, termasuk Google, OpenAI, Microsoft, Adobe, Midjourney, dan Shutterstock.

Clegg juga menyoroti perlunya kolaborasi di seluruh industri teknologi, dengan menulis, "Karena konten yang dihasilkan oleh AI muncul di seluruh internet, kami telah bekerja dengan perusahaan lain di industri kami untuk mengembangkan standar umum untuk mengidentifikasinya melalui forum seperti Partnership on AI (PAI). Penanda tak terlihat yang kami gunakan untuk gambar Meta AI - metadata IPTC dan watermark tak terlihat - sesuai dengan praktik terbaik PAI."

Meskipun upaya terbaik dan kemajuan dalam menindak deep fake, Clegg menunjukkan bahwa mendeteksi audio dan video yang dihasilkan oleh AI tetap sulit karena kurangnya sinyal yang dapat dibandingkan.

Namun, bahkan ketika gambar palsu terlihat jelas, gambar-gambar ini dapat mendapatkan jutaan tampilan sebelum dihapus secara komprehensif - seperti yang kita lihat dalam insiden terbaru Taylor Swift.

Sebagai langkah sementara, Meta akan memperkenalkan fitur yang memungkinkan pengguna untuk mengungkapkan ketika mereka membagikan video atau audio yang dihasilkan oleh AI.

Namun, siapa yang akan menggunakan fitur tersebut jika mereka memposting konten yang dirancang untuk memicu kontroversi?

Upaya perusahaan media sosial semakin intensif menjelang pemilihan umum, termasuk di AS dan Inggris (kemungkinan besar), dengan Meta siap untuk menerapkan label-label ini di semua bahasa yang didukung di platformnya.

Kita telah menyaksikan banyak insiden misinformasi politik yang disalurkan melalui deep fake.

Selain memberi label, Meta sedang menjelajahi berbagai teknologi untuk meningkatkan kemampuannya dalam mendeteksi konten yang dihasilkan oleh AI, bahkan tanpa adanya penanda tak terlihat.

Ini termasuk penelitian tentang teknologi watermark tak terlihat, seperti Tanda Tangan Stabil yang dikembangkan oleh laboratorium penelitian AI Meta, FAIR, yang mengintegrasikan watermarking langsung ke dalam proses pembuatan gambar.

Seiring konten yang dihasilkan oleh AI menjadi lebih canggih dan tersebar luas, kebutuhan akan kewaspadaan dan inovasi dalam otentikasi konten dan transparansi semakin meningkat.

Apakah solusi akhir sudah terlihat? Belum.