Pemeriksaan Senat Terhadap Keamanan dan Tata Kelola OpenAI Setelah Pengakuan Pejabat Informan
Senate probes OpenAI’s safety and governance after whistleblower claims https://dailyai.com/2024/07/senate-probes-openais-safety-and-governance-after-whistleblower-claims/

OpenAI mendapati dirinya berada di tengah-tengah penyelidikan Senat setelah dituduh melakukan uji coba keselamatan yang terburu-buru. Lima senator, dipimpin oleh Brian Schatz (D-Hawaii), menuntut agar perusahaan memberikan informasi rinci tentang praktik keselamatan dan perjanjian karyawan.

Penyelidikan ini muncul setelah laporan Washington Post menyiratkan bahwa OpenAI mungkin mengorbankan protokol keselamatan dalam keinginannya untuk merilis GPT-4 Omni, model AI terbarunya. Sementara itu, para pengadu, termasuk peneliti terkemuka dari tim "superalignment" OpenAI yang dibubarkan, telah mengungkapkan kekhawatiran tentang perjanjian kerahasiaan karyawan yang membatasi (NDAs).

Dalam surat yang tegas kepada CEO OpenAI Sam Altman, lima senator menuntut informasi rinci tentang praktik keselamatan perusahaan dan perlakuan terhadap karyawan. Surat tersebut menimbulkan kekhawatiran tentang komitmen OpenAI terhadap pengembangan AI yang bertanggung jawab dan kebijakan internalnya.

Para senator, dipimpin oleh Brian Schatz (D-Hawaii), telah menetapkan batas waktu 13 Agustus bagi OpenAI untuk menjawab serangkaian pertanyaan tajam. Ini termasuk apakah perusahaan akan memenuhi komitmennya untuk mengalokasikan 20% sumber daya komputasi untuk penelitian keselamatan AI dan apakah akan memperbolehkan ahli independen menguji sistemnya sebelum dirilis.

Mengenai perjanjian karyawan yang membatasi, surat tersebut meminta OpenAI untuk mengkonfirmasi bahwa perusahaan "tidak akan menegakkan perjanjian non-disparagement permanen bagi karyawan saat ini dan mantan" dan untuk berkomitmen "menghapus ketentuan lain dari perjanjian kerja yang dapat digunakan untuk menghukum karyawan yang secara publik mengungkapkan kekhawatiran tentang praktik perusahaan."

OpenAI kemudian memberikan jaminan kepada publik tentang komitmennya terhadap keselamatan. Perusahaan menekankan Kerangka Kesiapan, yang dirancang untuk mengevaluasi dan melindungi terhadap risiko yang ditimbulkan oleh model AI yang semakin kuat. "Kami tidak akan merilis model baru jika melampaui ambang batas risiko 'medium' sampai kami yakin dapat melakukannya dengan aman," jamin perusahaan tersebut.

OpenAI juga menyebut langkah-langkah terbaru untuk memperkuat langkah-langkah keselamatan. Pada Mei, Dewan Direktur OpenAI meluncurkan komite Keamanan dan Keamanan baru, yang mencakup Jenderal Paul Nakasone yang telah pensiun dari Angkatan Darat AS, seorang ahli keamanan siber terkemuka.

Meskipun ada kemajuan, peluang untuk meloloskan legislasi AI komprehensif tahun ini rendah karena perhatian beralih ke pemilihan 2024. Dalam ketiadaan undang-undang baru dari Kongres, Gedung Putih sebagian besar mengandalkan komitmen sukarela dari perusahaan AI untuk memastikan mereka menciptakan sistem AI yang aman dan dapat dipercaya.