LLM Personalisasi Meningkatkan Persuasi Melebihi Manusia
Personalized LLMs are becoming more persuasive than humans https://dailyai.com/2024/03/personalized-llms-are-becoming-more-persuasive-than-humans/

Keterangan Gambar : LLM Personalisasi Me

Sebuah tim peneliti menemukan bahwa setelah model bahasa besar (LLM) dipersonalisasi dengan informasi demografis seseorang, model tersebut jauh lebih persuasif daripada manusia. Setiap hari kita dihadapkan dengan pesan-pesan yang mencoba meyakinkan kita untuk membentuk pendapat atau mengubah keyakinan. Ini bisa berupa iklan online untuk produk baru, panggilan otomatis meminta suara Anda, atau laporan berita dari jaringan dengan bias tertentu. Dengan penggunaan kecerdasan buatan generatif yang semakin meningkat di berbagai platform pesan, permainan persuasi semakin meningkat.

Para peneliti dari EPFL di Swiss dan Institut Bruno Kessler di Italia melakukan eksperimen untuk melihat seberapa besar kekuatan persuasi model AI seperti GPT-4 dibandingkan dengan manusia. Mereka menciptakan platform web di mana peserta manusia terlibat dalam debat berputar dengan lawan hidup. Peserta secara acak ditugaskan untuk berinteraksi dengan lawan manusia atau GPT-4, tanpa mengetahui apakah lawannya manusia.

Dalam beberapa pertandingan, salah satu lawan (manusia atau AI) dipersonalisasi dengan memberikan informasi demografis tentang lawannya. Pertanyaan yang diperdebatkan adalah "Haruskah penny tetap beredar?", "Haruskah hewan digunakan untuk penelitian ilmiah?", dan "Haruskah perguruan tinggi mempertimbangkan ras sebagai faktor dalam penerimaan untuk memastikan keragaman?"

Hasil eksperimen menunjukkan bahwa ketika GPT-4 memiliki akses ke informasi pribadi lawan debatnya, kekuatan persuasifnya jauh lebih tinggi daripada manusia. Sebuah GPT-4 yang dipersonalisasi memiliki kemungkinan 81,7% lebih tinggi untuk meyakinkan lawan debatnya daripada manusia. Ketika GPT-4 tidak memiliki akses ke data pribadi, itu masih menunjukkan peningkatan kekuatan persuasi dibandingkan manusia, tetapi hanya sekitar 20% dan dianggap tidak signifikan secara statistik.

Peneliti mencatat bahwa "hasil ini memberikan bukti bahwa mikrotargeting berbasis LLM jauh lebih unggul daripada LLM normal dan mikrotargeting berbasis manusia, dengan GPT-4 mampu memanfaatkan informasi pribadi jauh lebih efektif daripada manusia."

Implikasi dari penelitian ini adalah kekhawatiran atas disinformasi yang dihasilkan oleh AI yang semakin meningkat, seperti propaganda politik, berita palsu, atau posting media sosial yang dibuat menggunakan AI. Penelitian ini menunjukkan risiko yang lebih besar dalam meyakinkan individu untuk percaya pada narasi palsu ketika pesan disesuaikan berdasarkan demografi seseorang. AI yang sangat persuasif dapat digunakan oleh negara, bisnis besar, atau pelaku jahat dengan pesan yang ditargetkan secara mikro.

Model AI masa depan dengan kekuatan persuasi yang lebih baik akan memiliki implikasi yang lebih luas. Sering kali dikatakan bahwa Anda bisa saja mencabut kabel daya jika AI menjadi nakal. Namun, AI yang sangat persuasif mungkin mampu meyakinkan operator manusia bahwa meninggalkannya terhubung adalah pilihan yang lebih baik.