1. Kesadaran AI, Batas Merah, dan Membuka Wawasan Grok2. Kecerdasan Buatan Beretika, Garis Tak Terla
DAI#31 – Conscious AI, red lines, and Grok opens up https://dailyai.com/2024/03/dai31-conscious-ai-red-lines-and-grok-opens-up/

Keterangan Gambar : 1. Kesadaran AI, Bat

Selamat datang di rangkuman berita AI minggu ini untuk pembaca yang sadar dan berpikiran tajam. Anda tahu siapa Anda.

Minggu ini, AI memicu perdebatan tentang seberapa pintar atau aman ia.

Agen AI belajar dengan bermain game komputer.

Dan DeepMind ingin mengajari Anda cara menendang bola.

Mari kita telusuri.

Apakah AI bermimpi tentang domba listrik?

Apakah kita bisa mengharapkan AI menjadi sadar diri atau benar-benar sadar? Apa arti "sadar" dalam konteks AI?

Claude 3 Opus melakukan sesuatu yang sangat menarik selama pelatihan. Tanggapannya terhadap seorang insinyur telah membangkitkan kembali perdebatan tentang kesadaran dan kesadaran AI. Kita memasuki wilayah Blade Runner lebih cepat dari yang beberapa orang kira.

Apakah "Saya berpikir, maka saya ada," hanya berlaku untuk manusia?

Diskusi-diskusi ini tentang X sangat menarik.

Lucu, bagaimana para optimis AI berbicara seperti, "AI dilatih dengan meniru data manusia, jadi akan seperti kita, jadi akan ramah!", dan bukan, "Model keamanan kami membuat asumsi beban bahwa masa depan ASI hanya akan dilatih untuk meniru output manusia..."

— Eliezer Yudkowsky ⏹️ (@ESYudkowsky) 15 Maret 2024

Pencarian Inflection AI untuk "AI pribadi" mungkin sudah berakhir. CEO perusahaan, Mustafa Suleyman, dan staf kunci lainnya pindah ke tim Microsoft Copilot. Apa artinya ini bagi Inflection AI dan pemain kecil lainnya yang didanai oleh investasi Big Tech?

AI bermain game

Jika 2023 adalah tahun LLM, maka 2024 berpotensi menjadi tahun agen AI. DeepMind memperlihatkan SIMA, agen AI generalis untuk lingkungan 3D. SIMA dilatih menggunakan game komputer dan contoh-contoh apa yang bisa dilakukan SIMA sangat mengesankan.

Apakah AI akan memecahkan perdebatan nomenklatur Sepak Bola vs. Football? Tidak mungkin. Tapi bisa membantu pemain mencetak lebih banyak gol. DeepMind berkolaborasi dengan Liverpool FC untuk mengoptimalkan cara pemain klub mengambil tendangan sudut.

Mungkin akan memakan waktu sebelum robot menggantikan manusia di lapangan.

Bisnis berisiko

Apakah AI akan menyelamatkan dunia atau menghancurkannya? Itu tergantung pada siapa yang ditanya. Para ahli dan pemimpin teknologi tidak bisa setuju seberapa pintar AI, seberapa cepat kita akan memiliki AGI, atau seberapa besar risiko yang ditimbulkannya.

Para ilmuwan AI terkemuka dari Barat dan China bertemu di Beijing untuk mendiskusikan upaya internasional untuk memastikan pengembangan AI yang aman. Mereka setuju pada beberapa 'garis merah' pengembangan AI yang mereka katakan mengancam eksistensi manusia.

Jika garis-garis merah ini benar-benar diperlukan, seharusnya kita sudah memiliki mereka sejak beberapa bulan lalu? Apakah ada yang percaya pemerintah AS atau China akan memperhatikannya?

Undang-undang AI UE disahkan dengan suara bulat di Parlemen Eropa dan kemungkinan akan mulai berlaku pada bulan Mei. Daftar pembatasan yang menarik, dengan beberapa aplikasi AI yang dilarang tidak mungkin pernah masuk ke daftar serupa di China.

Persyaratan transparansi data pelatihan akan menjadi sangat sulit bagi OpenAI, Meta, dan Microsoft untuk memenuhi tanpa membuka diri pada lebih banyak gugatan hak cipta.

Di sisi lain, FTC mempertanyakan Reddit atas kesepakatan untuk melisensikan data yang dihasilkan pengguna kepada Google. Reddit bersiap untuk IPO-nya tetapi merasakan tekanan dari regulator dan Redditor yang tidak terlalu senang dengan kontennya dijual sebagai bahan pelatihan AI.

Apple mengejar AI

Apple tidak benar-benar membuka jalan dalam bidang AI, tetapi telah mengakuisisi beberapa startup AI selama beberapa bulan terakhir. Akuisisi terbarunya dari startup AI Kanada mungkin memberikan wawasan tentang dorongan perusahaan untuk AI generatif.

Ketika Apple benar-benar menghasilkan teknologi AI yang mengesankan, mereka menjaga beritanya cukup rendah kunci sampai akhirnya menjadi bagian dari salah satu produknya. Insinyur Apple diam-diam menerbitkan makalah yang mengungkap MM1, keluarga pertama LLM multimodal Apple.

MM1 sangat baik dalam menjawab pertanyaan visual. Kemampuannya untuk menjawab pertanyaan dan merasionalkan pada beberapa gambar sangat mengesankan. Apakah Siri akan belajar untuk melihat segera?

Grok membuka

Grok baru saja lolos uji kewarasan saya pic.twitter.com/HYN3KTkRyX

— Jim Fan (@DrJimFan) 7 Desember 2023

Elon Musk telah kritis terhadap penolakan OpenAI untuk membuat modelnya open source. Dia mengumumkan bahwa xAI akan membuat LLM-nya, Grok-1, open source, dan segera merilis kode dan bobot model tersebut.

Fakta bahwa Grok-1 benar-benar open source (lisensi Apache 2.0) berarti perusahaan dapat menggunakannya untuk tujuan komersial daripada harus membayar alternatif seperti GPT-4. Anda akan memerlukan perangkat keras yang serius untuk melatih dan menjalankan Grok meskipun.

Berita baiknya adalah mungkin akan ada beberapa NVIDIA H100 bekas yang dijual murah segera.

Teknologi baru NVIDIA

NVIDIA mengungkapkan chip, alat, dan Omniverse baru di acara GTC-nya minggu ini.

Salah satu pengumuman besar adalah platform komputasi GPU Blackwell baru NVIDIA. Ini menawarkan peningkatan besar dalam kecepatan pelatihan dan inferensi dibandingkan dengan platform Grace Hopper tercanggih mereka.

Sudah ada daftar panjang perusahaan AI Big Tech yang telah mendaftar untuk perangkat keras canggih tersebut.

Peneliti dari Universitas Geneva menerbitkan makalah yang menunjukkan bagaimana mereka menghubungkan dua model AI, memungkinkan mereka berkomunikasi satu sama lain.

Ketika Anda belajar tugas baru, biasanya Anda dapat menjelaskannya cukup baik sehingga orang lain dapat menggunakan instruksi tersebut untuk melakukan tugas tersebut sendiri. Penelitian baru ini menunjukkan bagaimana membuat model AI melakukan hal yang sama.

Tidak lama lagi, kita bisa memberikan instruksi kepada robot dan kemudian memintanya untuk menjelaskannya kepada tim robot untuk menyelesaikan pekerjaan.

Berita lainnya…

Berikut beberapa cerita AI menarik lainnya yang kami nikmati minggu ini:

Sakana AI mengembangkan metode untuk menggabungkan komponen terbaik dari berbagai model AI menjadi model yang lebih canggih.

Apple sedang dalam pembicaraan untuk menggunakan Google Gemini untuk menggerakkan fitur AI iPhone.

Google menggunakan AI untuk memprediksi banjir sungai di 80 negara hingga 7 hari ke depan.

Kita mungkin akan melihat peluncuran GPT-5 dengan kemampuan agen AI pertengahan 2024.

Stability AI merilis Stable Video 3D yang menghasilkan model mesh 3D dari gambar tunggal.

DARPA sedang mengerjakan program SemaFor-nya untuk melawan deep fake AI.

Dan itulah sekilasnya.

Apakah Anda pikir kita melihat kilauan kesadaran dalam Claude 3 atau interaksi dengan insinyur memiliki penjelasan yang lebih sederhana? Jika sebuah model AI mencapai AGI dan membaca daftar pengembangan AI yang semakin berkembang, kemungkinan besar cukup pintar untuk diam tentang hal itu.

Ketika kita melihat ke belakang beberapa tahun dari sekarang, apakah kita akan tertawa pada seberapa paniknya semua orang tentang risiko AI, atau menyesali bahwa kita tidak melakukan lebih banyak tentang keamanan AI ketika kita bisa?

Beritahu kami apa pendapat Anda dan terus kirimkan kami tautan berita AI yang mungkin terlewatkan. Kami tidak bisa mendapatkan cukup dari hal itu.