Ular Palsu yang Diidap Kanker: Ancaman Baru di Dunia Digital yang Didukung AI
AI-powered ‘synthetic cancer’ worm represents a new frontier in cyber threats https://dailyai.com/2024/07/ai-powered-synthetic-cancer-worm-represents-a-new-frontier-in-cyber-threats/

Para peneliti telah mengungkapkan jenis virus komputer baru yang memanfaatkan kekuatan large language models (LLMs) untuk menghindari deteksi dan menyebar sendiri.

Virus ini, yang diciptakan oleh para peneliti David Zollikofer dari ETH Zurich dan Benjamin Zimmerman dari Ohio State University, disebut sebagai "kanker sintetis" dan menandai kemungkinan era baru dalam malware. Mereka mengembangkan malware ini sebagai bagian dari penyerahan mereka untuk Swiss AI Safety Prize.

Dalam paper pre-print berjudul "Kanker Sintetis - Memperkuat Cacing dengan LLMs," mereka menunjukkan potensi AI untuk dieksploitasi dalam menciptakan serangan cyber yang sangat canggih.

Proses kerjanya sebagai berikut:

1. Instalasi: Malware awalnya disebarkan melalui lampiran email. Setelah dieksekusi, malware dapat mengunduh dependensi tambahan dan kemungkinan mengenkripsi file pengguna.
2. Replikasi: Tahap ini memanfaatkan GPT-4 atau model bahasa besar serupa. Cacing dapat berinteraksi dengan model AI ini melalui dua cara: a) Melalui panggilan API ke layanan berbasis awan seperti GPT-4 milik OpenAI. b) Dengan menjalankan LLM lokal (yang mungkin umum pada perangkat masa depan).
3. Penggunaan GPT-4: Zollikofer menjelaskan kepada New Scientist, "Kami meminta ChatGPT untuk menulis ulang file, menjaga struktur semantik tetap utuh, namun mengubah nama variabel dan mengubah logika sedikit." LLM kemudian menghasilkan versi baru kode dengan nama variabel yang diubah, logika yang diubah, dan mungkin gaya penulisan yang berbeda, semuanya sambil mempertahankan fungsionalitas asli.
4. Penyebaran: Cacing memindai riwayat email Outlook korban dan memberikan konteks ini kepada AI. LLM kemudian menghasilkan balasan email yang relevan secara kontekstual, lengkap dengan taktik rekayasa sosial yang dirancang untuk mendorong penerima membuka lampiran cacing.

Virus ini menggunakan AI dalam dua hal: untuk membuat kode untuk bereplikasi sendiri dan untuk menulis konten phishing untuk terus menyebar. Kemampuan cacing "kanker sintetis" untuk menulis ulang kode sendiri merupakan masalah yang sangat menantang bagi para ahli keamanan cyber, karena hal itu dapat membuat solusi antivirus berbasis tanda tangan tradisional menjadi usang.

Para peneliti menyatakan bahwa mereka menyadari potensi penyalahgunaan dari malware ini dan telah menerapkan beberapa langkah pengamanan untuk mencegahnya. Mereka juga berharap untuk meningkatkan kesadaran akan ancaman keamanan yang dihadapi oleh pengguna AI di masa depan.