Llama Terbuka, Ketakutan AI, dan Pelarian Penjara yang Terlalu Mudah
DAI#49 – Open Llamas, AI fear, and all too easy jailbreaks https://dailyai.com/2024/07/dai49-open-llamas-ai-fear-and-all-too-easy-jailbreaks/

Selamat datang di rangkuman berita AI terbaru minggu ini.

Minggu ini, Llama memimpin dalam perlombaan AI terbuka. Perusahaan Big Tech membicarakan keamanan sambil model-model mereka berperilaku buruk. Dan membuat AI merasa takut mungkin membuatnya bekerja lebih baik. Mari kita bahas lebih lanjut.

Dalam persaingan antara Open Meta dan OpenAI tertutup, terjadi rilis menarik dari beberapa pemain besar dalam dunia AI. OpenAI merilis GPT-4o mini, versi hemat biaya tinggi kinerja rendah dari model andalannya, GPT-4o. Banyak pengembang kemungkinan akan memilih versi mini ini daripada GPT-4o karena biaya token yang lebih rendah dan kinerja benchmark MMLU yang mengesankan. Langkah bagus dari OpenAI. Tapi kapan kita akan mendapatkan Sora dan asisten suara?

Meta merilis model Llama 3.1 405B yang sangat dinantikan dan menyertakan versi 8B dan 70B yang ditingkatkan bersamanya. Mark Zuckerberg mengatakan Meta berkomitmen pada AI open source dan ia memiliki alasan menarik mengapa. Apakah Anda khawatir bahwa China sekarang memiliki model terkuat Meta? Zuckerberg mengatakan China mungkin akan mencurinya juga.

Beberapa nama besar dalam Big Tech berkumpul untuk mendirikan Koalisi untuk AI Aman (CoSAI). CoSAI bertujuan untuk mengubah cara pengembangan AI aman dilakukan dengan adanya standar industri. Meskipun OpenAI menjadi sponsor pendiri CoSAI, komitmen mereka terhadap keamanan AI terlihat sedikit goyah.

Studi menarik menunjukkan bahwa ketakutan bisa menjadi kunci untuk membangun sistem AI yang lebih adaptif, tangguh, dan alami. Namun, apakah AI yang takut pada manusia akan aman?

OpenAI mengklaim telah membuat model-modelnya aman, namun sulit dipercaya ketika kita melihat seberapa mudahnya untuk melewati penghalang keselarasan mereka. Google's hybrid AI model baru memprediksi cuaca dengan menggunakan sebagian kecil daya komputasi.

Itulah rangkuman berita AI minggu ini. Apakah Anda sudah mencoba GPT-4o mini atau Llama 3.1? Pertarungan antara model terbuka dan tertutup akan menjadi perjalanan yang menarik. Bagaimana Big Tech akan menangani masalah keamanan AI yang sulit? Beri tahu kami pendapat Anda dan kirimkan kami tautan berita dan penelitian AI yang menurut Anda layak kami bahas.