Gubernur California Vetoi RUU Keamanan AI SB 1047
California Governor Gavin Newsom vetoes SB 1047 AI safety bill https://dailyai.com/2024/09/california-governor-gavin-newsom-vetoes-sb-1047-ai-safety-bill/

Gubernur California Veto RUU Keamanan AI SB 1047

Perusahaan-perusahaan AI di California menghela napas lega setelah Gubernur Gavin Newsom memveto RUU SB 1047 yang baru saja disetujui oleh Senat Negara Bagian. RUU yang kontroversial ini akan mewajibkan pemeriksaan keamanan tambahan untuk model AI yang melewati ambang batas biaya atau komputasi pelatihan. Jika disahkan, model-model ini harus dilengkapi dengan "kill switch" dan akan dikenakan denda berat jika digunakan untuk menyebabkan "kerusakan kritis".

Dalam suratnya kepada Senat Negara Bagian California, Newsom menjelaskan alasan di balik keputusan veto tersebut. Ia mencatat bahwa salah satu alasan California menjadi rumah bagi 32 dari 50 perusahaan AI terkemuka di dunia adalah karena "budaya kebebasan intelektual yang berkembang". Meskipun ia tidak secara langsung menyebutkan risiko perusahaan-perusahaan ini meninggalkan California, ia mengisyaratkan dampak yang mungkin ditimbulkan oleh RUU tersebut.

Newsom menyatakan bahwa alasan utama ia memveto RUU ini adalah karena terlalu luas dan ambang batas regulasi tidak mencerminkan risiko yang sebenarnya. Ia mengatakan, “Dengan hanya fokus pada model-model yang paling mahal dan berskala besar, SB 1047 menciptakan kerangka regulasi yang dapat memberikan publik rasa aman yang salah tentang pengendalian teknologi yang bergerak cepat ini. Model-model kecil dan khusus mungkin muncul sebagai sama berbahayanya atau bahkan lebih berbahaya daripada model-model yang ditargetkan oleh SB 1047 – dengan potensi menghambat inovasi yang mendorong kemajuan demi kebaikan publik.”

Newsom menekankan bahwa regulasi risiko AI diperlukan, tetapi fokus pada aplikasi berisiko daripada pendekatan umum seperti SB 1047 adalah pilihan yang lebih baik. Ia menjelaskan, “SB 1047 tidak mempertimbangkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan kritis, atau menggunakan data sensitif. Sebaliknya, RUU ini menerapkan standar ketat bahkan untuk fungsi dasar – selama sistem besar menggunakannya. Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi publik dari ancaman nyata yang ditimbulkan oleh teknologi ini.”

Meskipun Newsom menolak untuk menandatangani SB 1047, ia menunjukkan regulasi AI lain yang telah ia tandatangani bulan ini sebagai bukti bahwa ia serius menangani risiko yang terkait dengan AI. Ia menegaskan komitmennya untuk keselamatan dan kemajuan AI dengan mengatakan, “Mengingat taruhannya – melindungi dari ancaman nyata tanpa menghambat janji teknologi ini untuk memajukan kebaikan publik – kita harus melakukan ini dengan benar.”

Senator Scott Weiner, yang merupakan penulis RUU tersebut, merasa kecewa dengan keputusan Newsom. Ia menyatakan, “Veto ini adalah kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan besar yang membuat keputusan kritis yang mempengaruhi keselamatan dan kesejahteraan publik serta masa depan planet ini.”

Sementara Weiner menyesali kegagalan RUU tersebut, Yann LeCun dari Meta dan investor ventura Marc Andreesen secara terbuka mengucapkan terima kasih kepada Newsom atas veto tersebut. Kita harus menunggu untuk melihat apakah keputusan Newsom ini merupakan contoh kepemimpinan yang berpikiran maju atau justru menjadi penyesalan.