Whistleblowers kritik OpenAI penolakan undang-undang keamanan AI OpenAI diserang oleh par
Whistleblowers criticize OpenAI’s opposition to AI safety bill https://dailyai.com/2024/08/whistleblowers-criticize-openais-opposition-to-ai-safety-bill/

Dua Mantan Peneliti OpenAI Tanggapi Penolakan Terhadap RUU Keamanan AI di California

Dua mantan peneliti OpenAI menulis surat sebagai tanggapan terhadap penolakan OpenAI terhadap RUU kontroversial SB 1047 yang berkaitan dengan keamanan AI di California. RUU ini sedang dalam proses legislasi dan jika disetujui oleh Senat, akan diajukan kepada Gubernur Gavin Newsom untuk ditandatangani.

RUU ini mengusulkan pemeriksaan keamanan tambahan untuk model AI yang biaya pelatihannya melebihi $100 juta, serta adanya 'kill switch' untuk menghentikan model jika berperilaku tidak semestinya. Mantan karyawan OpenAI dan whistleblower, William Saunders dan Daniel Kokotajlo, menyatakan bahwa mereka "kecewa tetapi tidak terkejut" dengan penolakan OpenAI terhadap RUU tersebut.

Dalam suratnya kepada penulis RUU, Senator Scott Wiener, OpenAI menjelaskan bahwa meskipun mendukung niat di balik RUU tersebut, mereka percaya bahwa undang-undang federal yang mengatur pengembangan AI adalah pilihan yang lebih baik. OpenAI berpendapat bahwa implikasi keamanan nasional, seperti potensi bahaya kimia, biologi, radiologis, dan nuklir, sebaiknya dikelola oleh pemerintah federal dan agensinya.

Surat tersebut juga mengutip kekhawatiran Perwakilan Zoe Lofgren bahwa jika RUU ini disahkan, ada "risiko nyata bahwa perusahaan akan memutuskan untuk beroperasi di yurisdiksi lain atau bahkan tidak merilis model di California."

Tanggapan Whistleblower OpenAI

Mantan karyawan OpenAI tidak menerima alasan yang diberikan oleh perusahaan. Mereka menjelaskan, "Kami bergabung dengan OpenAI karena ingin memastikan keamanan sistem AI yang sangat kuat yang sedang dikembangkan perusahaan. Namun, kami mengundurkan diri karena kehilangan kepercayaan bahwa perusahaan akan mengembangkan sistem AI-nya dengan aman, jujur, dan bertanggung jawab."

Penulis surat tersebut juga terlibat dalam surat "Right to Warn" yang dirilis awal tahun ini. Mereka mendukung SB 1047 dengan menyatakan, "Mengembangkan model AI canggih tanpa langkah-langkah keamanan yang memadai menimbulkan risiko yang dapat diprediksi akan membahayakan publik."

Meskipun OpenAI mengalami pengunduran massal peneliti keamanan AI, model-model perusahaan tersebut belum menunjukkan skenario kiamat yang banyak dikhawatirkan. Whistleblower tersebut menegaskan, "Itu hanya karena sistem yang benar-benar berbahaya belum dibangun, bukan karena perusahaan memiliki proses keamanan yang dapat menangani sistem yang benar-benar berbahaya."

OpenAI bukan satu-satunya perusahaan yang menolak RUU ini. Anthropic juga memiliki kekhawatiran, tetapi kini tampaknya mendukung setelah dilakukan amandemen. CEO Anthropic, Dario Amodei, menyatakan bahwa versi baru SB 1047 telah banyak diperbaiki, sehingga manfaatnya kemungkinan lebih besar daripada biayanya.

Jika SB 1047 disahkan, hal ini dapat memaksa perusahaan seperti OpenAI untuk lebih fokus pada keamanan AI, tetapi juga dapat menyebabkan migrasi perusahaan teknologi dari Silicon Valley.