Mahkamah Spanyol Menghukum 15 Anak untuk Membuat Bahan Berunsur AI yang Menjurus ke pada Isi Dewasa
Spanish court sentences 15 children for creating AI-generated explicit material https://dailyai.com/2024/07/spanish-court-sentences-15-children-over-creating-ai-generated-explicit-material/

Keterangan Gambar : Mahkamah Spanyol Me

Sebuah pengadilan pemuda di Badajoz, Spanyol, telah menjatuhkan hukuman percobaan selama satu tahun kepada 15 pelajar sekolah atas pembuatan dan penyebaran gambar telanjang yang dihasilkan oleh kecerdasan buatan (AI) dari teman sekelas perempuan mereka.

Para pelajar di bawah umur, berusia antara 13 dan 15 tahun, dinyatakan bersalah atas 20 tuduhan penciptaan gambar pelecehan anak dan 20 tuduhan pelanggaran terhadap integritas moral.

Sebagai bagian dari hukuman mereka, para terdakwa harus mengikuti kelas kesetaraan gender dan tanggung jawab teknologi.

Pengadilan menyatakan bahwa para pelajar di bawah umur menggunakan aplikasi AI untuk memanipulasi foto asli gadis-gadis yang diambil dari media sosial, dengan menempelkan wajah mereka ke tubuh telanjang perempuan.

Kasus ini pertama kali muncul pada September tahun lalu di Almendralejo, sebuah kota kecil di barat daya Spanyol, ketika orangtua melaporkan bahwa foto-foto putri mereka beredar di WhatsApp. Foto-foto yang dimanipulasi secara realistis menggambarkan gadis-gadis tersebut telanjang, menyebabkan kecemasan dan kegelisahan yang besar di antara para korban, beberapa di antaranya berusia 11 tahun.

"Ini adalah kejutan ketika Anda melihatnya," kata ibu salah satu korban. "Gambar itu benar-benar realistis ... Jika saya tidak mengenal tubuh putri saya, saya akan mengira gambar itu nyata."

Ibu dari korban lainnya, Miriam Al Adib, menyatakan kemarahannya di Instagram, mengatakan, "Montase tersebut sangat realistis, sangat mengganggu dan sungguh memalukan."

Dia menceritakan bagaimana putrinya datang kepadanya dengan rasa jijik, berkata, "Mama, lihat apa yang mereka lakukan padaku." Al Adib juga mengungkapkan kekhawatiran bahwa gambar telanjang palsu tersebut mungkin berakhir di situs web dewasa.

Ibu lainnya, Fátima Gómez, mengatakan kepada media lokal bahwa putrinya diancam oleh seorang rekan sekolah atas foto telanjang palsu tersebut. Seorang anak laki-laki menuntut uang dari putrinya, dan ketika dia menolak, dia mengirimkan gambar telanjang yang dimanipulasi dari dirinya sendiri.

Penyelidikan polisi mengungkapkan bahwa aplikasi bernama "ClothOff AI" digunakan untuk menghasilkan gambar dari foto-foto media sosial.

Aplikasi tersebut memiliki slogan yang mengganggu "Menyibak siapa pun, menyibak gadis-gadis secara gratis" dan dilaporkan mengenakan biaya €10 untuk menghasilkan 25 gambar telanjang.

Perlindungan bagi anak di era AI

Kasus yang menonjol ini menyoroti kebutuhan mendesak akan undang-undang dan kebijakan yang diperbarui untuk mengatasi ancaman deep fake yang dihasilkan oleh AI, terutama yang menargetkan anak di bawah umur.

Para ahli mengatakan bahwa legislasi yang ada tidak memadai untuk menuntut pelanggaran baru ini, meninggalkan korban rentan.

"Di luar persidangan ini, fakta-fakta ini seharusnya membuat kita merenungkan perlunya mendidik orang tentang kesetaraan antara pria dan wanita," kata Asosiasi Malvaluna, yang mewakili keluarga yang terkena dampak.

Mereka menekankan perlunya pendidikan seks yang komprehensif di sekolah untuk melawan efek merugikan dari pornografi dan deep fake.

Saat teknologi AI berkembang dengan cepat, ada kekhawatiran yang meningkat tentang potensinya untuk disalahgunakan dan dieksploitasi, terutama menargetkan perempuan dan anak-anak.

Forum Ekonomi Dunia (WEF) dan para legislator AS baru-baru ini menarik perhatian terhadap kurangnya kebijakan yang melindungi anak-anak dari risiko AI.

Legislator AS juga mengangkat isu seputar interaksi AI dengan anak-anak, yang jelas telah menjadi titik buta yang mencolok dalam regulasi dan pedoman. Pengembang AI menetapkan batasan usia pada alat mereka, namun hal ini kurang efektif.

Kerjasama antara pembuat kebijakan, perusahaan teknologi, pendidik, dan orangtua sangat penting untuk mengatasi tantangan ini dan menciptakan masa depan digital yang lebih aman untuk semua, terutama anak-anak.