Pembuat Terapkan Aturan Keamanan Sukarela untuk Desain Protein AI
Researchers create voluntary safety rules for AI protein design https://dailyai.com/2024/03/researchers-create-voluntary-safety-rules-for-ai-protein-design/

Keterangan Gambar : Pembuat Terapkan Atu

Sebuah inisiatif sukarela telah diluncurkan oleh sekelompok ilmuwan terkemuka yang merinci serangkaian nilai, prinsip, dan komitmen untuk desain protein AI. Surat tersebut membahas potensi penyalahgunaan alat AI yang mampu merancang protein baru dengan kecepatan dan efisiensi yang belum pernah terjadi sebelumnya. Meskipun AI memiliki potensi besar untuk mengatasi tantangan global yang mendesak, mulai dari respons pandemi hingga solusi energi berkelanjutan, hal ini juga menimbulkan pertanyaan tentang kemungkinan penggunaan jahat, seperti menciptakan bioweapon baru.

Protein yang dirancang oleh sistem AlphaFold milik DeepMind dan kemudian oleh para peneliti di Sekolah Kedokteran Universitas Washington telah menunjukkan afinitas dan spesifisitas tinggi terhadap target yang dimaksud. Namun, selalu ada kemungkinan bahwa protein-protein ini dapat berinteraksi dengan molekul lain di dalam tubuh dengan cara yang tidak terduga. Hal ini dapat menyebabkan efek samping yang merugikan atau bahkan perkembangan penyakit baru.

Risiko lain adalah potensi penyalahgunaan atau penggunaan jahat dari teknologi ini. Sama seperti protein yang dirancang oleh AI dapat digunakan untuk menciptakan terapi yang sangat terarah, mereka juga dapat dirancang untuk menyebabkan kerusakan. Sebagai contoh, seorang pelaku jahat dapat potensial merancang protein yang menargetkan kelompok etnis tertentu atau mengeksploitasi kerentanan genetik tertentu.

Para penandatangan percaya bahwa "manfaat teknologi AI saat ini untuk desain protein jauh lebih besar daripada potensi bahayanya" namun mereka menyadari perlunya pendekatan proaktif dalam manajemen risiko seiring dengan kemajuan teknologi ini.

Sebagai bagian dari inisiatif ini, para peneliti merumuskan serangkaian nilai dan prinsip untuk memandu pengembangan bertanggung jawab dari teknologi AI dalam desain protein. Ini termasuk "keamanan, keamanan, kesetaraan, kolaborasi internasional, keterbukaan, tanggung jawab, dan mengejar penelitian untuk kepentingan masyarakat." Para penandatangan juga secara sukarela menyetujui serangkaian komitmen spesifik yang didasarkan pada nilai dan prinsip ini.

Salah satu aspek kunci dari inisiatif ini berfokus pada meningkatkan penyaringan sintesis DNA, langkah penting dalam menerjemahkan protein yang dirancang oleh AI menjadi molekul fisik. Para ilmuwan berkomitmen untuk "mendapatkan layanan sintesis DNA hanya dari penyedia yang menunjukkan ketaatan terhadap praktik penyaringan biosecurity standar industri, yang bertujuan untuk mendeteksi biomolekul berbahaya sebelum dapat diproduksi."

Kemajuan AI dalam bidang kedokteran dan bioteknologi telah sangat luar biasa, menghasilkan antibiotik dan obat anti-penuaan baru. Untuk mendorong temuan-temuan ini, para penandatangan berkomitmen untuk "bekerja secara kolaboratif dengan para pemangku kepentingan dari seluruh dunia" dan "menahan diri dari penelitian yang kemungkinan besar akan menyebabkan kerusakan secara keseluruhan atau memungkinkan penyalahgunaan teknologi kami."