Rancangan undang-undang California dapat menjadi bencana bagi pengembangan AIUndang-Undang Californ
Proposed California bills could be disastrous for AI development https://dailyai.com/2024/07/proposed-california-bills-could-be-disastrous-for-ai-development/

California Pertimbangkan Regulasi AI: Dampak dan Kontroversi

California sedang mempertimbangkan beberapa undang-undang untuk mengatur kecerdasan buatan (AI), dengan SB 1047 dan AB 3211 yang dapat berdampak besar bagi pengembang AI jika disahkan bulan depan. Perdebatan mengenai risiko AI dan cara menguranginya terus berlanjut, dan tanpa adanya undang-undang federal di AS, California telah merancang undang-undang yang bisa menjadi preseden bagi negara bagian lain.

SB 1047

SB 1047, yang dikenal sebagai "Undang-Undang Inovasi Aman dan Terjamin untuk Model Kecerdasan Buatan Perbatasan," akan berlaku bagi pembuat model yang menghabiskan biaya pelatihan sebesar $100 juta atau lebih. Para pengembang ini diwajibkan untuk menerapkan pemeriksaan keselamatan tambahan dan akan bertanggung jawab jika model mereka digunakan untuk menyebabkan "kerusakan kritis."

Kerusakan kritis didefinisikan sebagai "pembuatan atau penggunaan senjata kimia, biologi, radiologis, atau nuklir yang mengakibatkan banyak korban... atau kerugian minimal $500 juta akibat serangan siber pada infrastruktur kritis." Meskipun tampak sebagai langkah baik untuk memastikan keselamatan, banyak yang meragukan kepraktisannya.

Yann LeCun, kepala ilmuwan AI di Meta, berpendapat bahwa "Regulator seharusnya mengatur aplikasi, bukan teknologi." Ia khawatir bahwa membuat pengembang teknologi bertanggung jawab atas penyalahgunaan produk akan menghentikan pengembangan teknologi itu sendiri.

AB 3211

AB 3211, yang dikenal sebagai "Undang-Undang Standar Provenansi, Keaslian, dan Watermarking California," bertujuan untuk memastikan transparansi dan akuntabilitas dalam pembuatan dan distribusi konten sintetis. Jika sesuatu dihasilkan oleh AI, undang-undang ini mengharuskan untuk dilabeli atau memiliki watermark digital yang jelas.

Watermark tersebut harus "sangat tidak mudah dihapus." Selain itu, setiap sistem AI percakapan harus "mendapatkan persetujuan afirmatif pengguna sebelum memulai percakapan." Ini berarti setiap kali Anda menggunakan ChatGPT atau Siri, mereka harus memulai dengan pernyataan bahwa mereka adalah AI dan meminta persetujuan pengguna.

Undang-undang ini juga mengharuskan pencipta model generatif AI untuk menyimpan daftar konten yang dihasilkan AI yang dapat dianggap sebagai hasil karya manusia. Hal ini akan sulit dilakukan, terutama untuk model terbuka yang diunduh dan dijalankan secara lokal.

Jika disahkan, model AI yang tidak mematuhi undang-undang ini tidak akan diizinkan untuk didistribusikan atau dihosting di California. Pelanggaran dapat dikenakan denda hingga $1 juta atau 5% dari pendapatan tahunan global pelanggar, yang bisa mencapai miliaran dolar bagi perusahaan besar seperti Meta atau Google.

Regulasi AI ini mulai menggeser dukungan politik Silicon Valley menuju pendekatan "Make America First in AI" yang didukung oleh sekutu Trump. Jika SB 1047 dan AB 3211 disahkan bulan depan, hal ini dapat memicu pengembang AI untuk pindah ke negara bagian dengan regulasi yang lebih ringan.