Penemuan Analisis Dunia Gelap Menyingkap Lonjakan Penyalahgunaan AI pada Kerusuhan Anak di Tengah-se
Dark web study exposes AI child abuse surge as UK man faces landmark arrest https://dailyai.com/2024/08/dark-web-study-exposes-ai-child-abuse-surge-as-uk-man-faces-landmark-arrest/

Permintaan Meningkat untuk CSAM yang Dihasilkan AI di Forum Gelap

Penelitian yang diterbitkan oleh Universitas Anglia Ruskin di Inggris mengungkapkan adanya permintaan yang meningkat untuk materi pornografi anak yang dihasilkan oleh AI (CSAM) di forum-forum gelap. Peneliti Dr. Deanna Davy dan Prof. Sam Lundrigan menganalisis percakapan di forum tersebut selama setahun terakhir dan menemukan pola yang mengkhawatirkan, di mana pengguna secara aktif belajar dan berbagi teknik untuk membuat materi tersebut menggunakan alat AI.

Dr. Davy menjelaskan, "Kami menemukan bahwa banyak pelanggar mengambil gambar anak-anak untuk dimanipulasi, dan keinginan untuk gambar 'hardcore' yang meningkat dari 'softcore' sering dibahas." Temuan ini membantah anggapan bahwa gambar yang dihasilkan AI adalah "tanpa korban," karena gambar anak-anak nyata sering digunakan sebagai bahan sumber untuk manipulasi AI ini.

Studi ini juga menemukan bahwa anggota forum menyebut mereka yang membuat CSAM yang dihasilkan AI sebagai "seniman," dengan beberapa berharap teknologi ini akan berkembang untuk mempermudah proses tersebut. Pola pikir ini menunjukkan normalisasi perilaku kriminal dalam komunitas online ini.

Dalam kasus terkait yang dilaporkan oleh BBC, Kepolisian Greater Manchester (GMP) baru-baru ini mengumumkan kasus "landmark" yang melibatkan penggunaan AI untuk membuat gambar tidak senonoh anak-anak. Hugh Nelson, seorang pria berusia 27 tahun dari Bolton, mengakui 11 pelanggaran, termasuk distribusi dan pembuatan gambar tidak senonoh, dan akan dijatuhi hukuman pada 25 September.

Detektif Carly Baines dari GMP menggambarkan kasus ini sebagai "sangat unik dan sangat mengerikan," mencatat bahwa Nelson telah mengubah "foto sehari-hari biasa" anak-anak menjadi gambar tidak senonoh menggunakan teknologi AI. Kasus ini menyoroti tantangan yang dihadapi penegak hukum dalam menangani bentuk kejahatan digital baru ini.

GMP menyebutnya sebagai "ujian nyata terhadap legislasi," karena penggunaan AI dengan cara ini tidak secara khusus diatur dalam hukum Inggris saat ini. Baines berharap kasus ini dapat mempengaruhi bentuk legislasi di masa depan.

Meningkatnya CSAM yang dihasilkan AI juga menimbulkan tantangan baru untuk moderasi konten di platform media sosial. Metode deteksi tradisional mungkin kesulitan mengidentifikasi gambar yang dihasilkan AI, memungkinkan konten tersebut menyebar lebih mudah.

Para ahli menyerukan pendekatan multifaset untuk mengatasi ancaman yang berkembang ini, termasuk memperbarui legislasi, meningkatkan kolaborasi antara perusahaan teknologi dan penegak hukum, serta mengembangkan alat deteksi AI yang lebih canggih.