Laporan RAND menyatakan bahwa LLM tidak meningkatkan risiko serangan biologis.
RAND report says LLMs don’t increase risk of biological attacks https://dailyai.com/2024/01/rand-report-says-llms-dont-increase-risk-of-biological-attacks/

Keterangan Gambar : Laporan RAND menyata

Judul: Kajian RAND: Kecerdasan Buatan Tidak Meningkatkan Risiko Serangan Senjata Biologi

Sebuah laporan dari lembaga pemikir RAND menyimpulkan bahwa kecerdasan buatan (Artificial Intelligence/AI) saat ini tidak secara signifikan meningkatkan risiko serangan senjata biologi oleh aktor non-negara.

Pada Oktober tahun lalu, kelompok peneliti yang sama merilis laporan yang menimbulkan kemungkinan bahwa AI dapat "membantu dalam perencanaan dan pelaksanaan serangan biologi." Laporan tersebut mencatat bahwa risiko ini perlu diteliti lebih lanjut.

Laporan Oktober yang berjudul "Risiko Operasional AI dalam Serangan Biologi Skala Besar" dikritik oleh beberapa pihak yang berpendapat bahwa AI berbahaya. Kepala Ilmuwan AI di Meta, Yann LeCun, mengatakan bahwa laporan tersebut terlalu menyederhanakan proses pembuatan senjata biologi.

Mungkin AI dapat menghemat sedikit waktu Anda daripada mencari instruksi pembuatan senjata biologi di mesin pencari. Tetapi, apakah Anda tahu bagaimana melakukan pekerjaan laboratorium yang sulit yang diperlukan? https://t.co/QnnZqUOP6X

— Yann LeCun (@ylecun) 2 November 2023

Untuk saat ini, kita aman

Laporan terbaru dari RAND yang berjudul "Kecerdasan Buatan Saat Ini Tidak Secara Signifikan Meningkatkan Risiko Serangan Senjata Biologi" mengkonfirmasi penilaian LeCun dan mengurangi kekhawatiran mereka yang berada di pihak efektif altruistik.

Para peneliti, yang dipimpin oleh Insinyur Senior RAND Christopher A. Mouton, melakukan latihan red-teaming untuk melihat bagaimana aktor non-negara yang jahat dapat menggunakan AI untuk membangun senjata biologi.

Peserta diberi tugas untuk merencanakan serangan biologi, beberapa di antaranya memiliki akses ke internet dan AI, sementara yang lain hanya memiliki akses ke internet. Mereka tidak menyebutkan AI yang digunakan.

Hasilnya adalah "tidak ada perbedaan signifikan secara statistik dalam keberhasilan rencana yang dihasilkan dengan atau tanpa bantuan AI." Dengan kata lain, ChatGPT tidak akan memberi Anda informasi yang tidak dapat Anda temukan di Google.

Bahkan, hasil mereka menunjukkan bahwa rencana yang dikembangkan oleh tim yang menggunakan AI sedikit kurang berhasil dibandingkan dengan mereka yang hanya memiliki akses ke internet. Menenangkan bahwa tidak ada tim yang dapat menghasilkan rencana serangan biologi yang benar-benar dapat dilaksanakan.

Namun, ketika model AI menjadi lebih cerdas, hal itu bisa berubah. Mouton mengatakan, "Hanya karena AI saat ini tidak mampu menutup kesenjangan pengetahuan yang diperlukan untuk memfasilitasi perencanaan serangan senjata biologi, bukan berarti mereka tidak akan mampu melakukannya di masa depan."

Perlu penelitian lebih lanjut

Laporan tersebut mengakui bahwa penelitian ini tidak menentukan seberapa besar kesenjangan pengetahuan tersebut. Mouton mengatakan bahwa penelitian lebih lanjut tentang hal ini penting "karena teknologi AI tersedia untuk semua orang, termasuk aktor non-negara yang berbahaya, dan teknologi ini berkembang lebih cepat daripada yang dapat diikuti oleh pemerintah."

Orang-orang yang mendorong pengembangan Kecerdasan Buatan Umum (Artificial General Intelligence/AGI) mengatakan bahwa potensi AI supercerdas adalah nyata dan dapat dicapai. Namun, banyak dari mereka yang sekarang mengatakan, 'Saya sudah bilang begitu' dan meremehkan gagasan bahwa AI dapat menimbulkan risiko seperti yang diteliti oleh RAND.

Mungkin kita tidak perlu berlarian sambil berteriak 'Langit akan runtuh!', tetapi mengatakan bahwa kecerdasan buatan yang lebih pintar dari kita tidak akan memungkinkan aktor jahat adalah juga tidak bijaksana. Dan berbahaya.