Peneliti bergabung dengan surat terbuka yang memperjuangkan pengujian AI yang independen
Researchers join open letter advocating for independent AI evaluations https://dailyai.com/2024/03/researchers-join-open-letter-advocating-for-independent-ai-evaluations/

Keterangan Gambar : Peneliti bergabung d

Lebih dari 100 pakar kecerdasan buatan (AI) terkemuka telah mengeluarkan surat terbuka yang menuntut agar perusahaan-perusahaan di balik teknologi AI generatif, seperti OpenAI, Meta, dan lainnya, membuka pintu mereka untuk pengujian independen.

Pesan mereka jelas: syarat dan ketentuan pengembang AI menghambat upaya penelitian independen terhadap keamanan alat AI.

Para penandatangan termasuk pakar terkemuka seperti Percy Liang dari Stanford, pemenang Pulitzer Julia Angwin, Renée DiResta dari Stanford Internet Observatory, Deb Raji dari Mozilla Fellow, mantan anggota Parlemen Eropa Marietje Schaake, dan Suresh Venkatasubramanian dari Brown University.

Mereka meminta agar OpenAI, Meta, Anthropic, Google, Midjourney, dan lainnya menciptakan ruang aman hukum dan teknis bagi para peneliti untuk mengevaluasi produk AI tanpa takut diseret ke pengadilan atau dilarang.

Mereka berargumen bahwa pelajaran dari era media sosial, di mana penelitian independen sering dipinggirkan, tidak boleh diulang.

Sebaliknya, harus ada saluran terbuka untuk penyelidikan yang bertanggung jawab untuk mempertanggungjawabkan alat-alat tersebut.

Surat tersebut mengatakan, "Sementara syarat dan ketentuan perusahaan mencegah penggunaan jahat, mereka juga tidak memberikan pengecualian untuk penelitian independen yang dilakukan dengan itikad baik, meninggalkan para peneliti berisiko dihentikan akun atau bahkan mendapat balasan hukum."

Alat AI memberlakukan kebijakan penggunaan yang ketat untuk mencegah mereka dimanipulasi untuk melewati penghalang mereka. Misalnya, OpenAI baru-baru ini menyebut upaya investigatif oleh New York Times sebagai "hacking," dan Meta mengancam akan mencabut lisensi atas perselisihan kekayaan intelektual.

Penyelidikan lain menyelidiki MidJourney untuk mengungkap banyak kasus pelanggaran hak cipta, yang akan bertentangan dengan T&Cs perusahaan.

Masalahnya adalah karena alat AI secara besar-besaran tidak dapat diprediksi di bawah kap mesinnya, mereka bergantung pada orang-orang yang menggunakannya dengan cara tertentu untuk tetap 'aman.'

Namun, kebijakan yang sama membuat sulit bagi para peneliti untuk menyelidiki dan memahami model-model tersebut.

Surat tersebut, yang dipublikasikan di situs web MIT, mengajukan dua permohonan:

1. "Pertama, pelabuhan aman hukum akan memberikan jaminan bagi penelitian keamanan, keamanan, dan kepercayaan AI independen yang dilakukan dengan itikad baik, asalkan dilakukan sesuai dengan aturan pengungkapan kerentanan yang mapan."

2. "Kedua, perusahaan harus berkomitmen untuk memberikan akses yang lebih adil, dengan menggunakan peninjau independen untuk memoderasi aplikasi evaluasi peneliti, yang akan melindungi penelitian keamanan yang patuh dari penangguhan akun yang kontraproduktif, dan mengurangi kekhawatiran perusahaan memilih penilai mereka sendiri."

Surat tersebut juga memperkenalkan proposal kebijakan, yang disusun bersama oleh beberapa penandatangan, yang menyarankan modifikasi dalam syarat dan ketentuan perusahaan untuk menampung penelitian akademis dan keamanan.

Hal ini berkontribusi pada memperluas konsensus tentang risiko yang terkait dengan AI generatif, termasuk bias, pelanggaran hak cipta, dan penciptaan gambar intim non-konsensual.

Dengan memperjuangkan "pelabuhan aman" untuk evaluasi independen, para pakar ini memperjuangkan kepentingan publik, bertujuan untuk menciptakan ekosistem di mana teknologi AI dapat dikembangkan dan diterapkan secara bertanggung jawab, dengan kesejahteraan masyarakat menjadi prioritas utama.