Wajah yang Dicuri: Tren Mengkhawatirkan Eksploitasi Berbasis AI
Stolen faces, stolen lives: The disturbing trend of AI-powered exploitation https://dailyai.com/2025/04/stolen-faces-stolen-lives-the-disturbing-trend-of-ai-powered-exploitation/

Pengembangan teknologi artificial intelligence (AI) telah membawa kemajuan signifikan dalam berbagai bidang, namun kabar terkini menunjukkan bahwa AI juga digunakan untuk meningkatkan kemungkinan penipuan dan eksploitasi terhadap komunitas yang lemah. Salah satu contoh tersebut adalah para influencer sintetis yang memanfaatkan AI untuk membuat akun Instagram palsu yang menggambar manusia dengan sindrom Down.

Para penipu tersebut merekap content dari pembuat conten yang sebenarnya, kemudian menggunakan AI untuk menggantikan wajah computer-generated orang dengan sindrom Down. Tujuan mereka adalah untuk memanfaatkan komunitas yang lemah untuk mendapatkan likes, shares, dan uang.

Kabar terkini juga menunjukkan bahwa beberapa akun Instagram tersebut memiliki lalu lintas ke situs web dewasa yang tidak jelas, di mana content yang dihasilkan AI dmonetisasi. Hal ini tidak hanya menyinggung penggambaran orang-orang dengan sindrom Down, tetapi juga menyadari privasi dan dignitas mereka.

Trend "AI pimping" ini tidak hanya terbatas pada pembuatan influencer sintetis dengan sindrom Down, tetapi juga mencakup penggunaan AI untuk membuat model sintetis dengan kecacatan lainnya, termasuk pria amputasi, korban kebakaran, dan konten pornografia sintetis. AI image dan video models sekarang mencapai tingkat realisme yang sangat memungkinkan digunakan sebagai substitusi untuk manusia nyata.