Antropik Lahirkan Debat Baru Mengenai Kesadaran dan Kecerdasan AI Melalui Claude 3
Anthropic’s Claude 3 reawakened debates on AI sentience and consciousness https://dailyai.com/2024/03/claude-3-reawakens-debates-on-ai-sentience-and-consciousness/

Keterangan Gambar : Antropik Lahirkan De

Anthropic baru-baru ini memperkenalkan Claude 3, sebuah model AI yang menantang GPT-4 yang sudah terkenal.

Claude 3 dirancang untuk menangani masukan "lebih dari satu juta token," memproses dan merespons volume informasi yang jauh melebihi keseluruhan "War and Peace" karya Tolstoy, yang totalnya sekitar 750.000 token.

Model AI tercanggih dari seri baru Anthropic, Claude 3 Opus, telah menantang dominasi GPT-4 dan memulai kembali perdebatan tentang kesadaran mesin.

Apakah kita mendekati iterasi model AI generatif yang menunjukkan kesadaran, kecerdasan, atau kesadaran diri? Apakah Claude 3 menunjukkan "percikan kecerdasan buatan secara umum," seperti yang dijelaskan oleh Microsoft Research tentang GPT-4 pada tahun 2023?

Debat ini kembali memanas ketika insinyur prompt Anthropic, Alex Albert, membagikan insiden menarik di Twitter yang terjadi selama pengujian internal model.

Dalam tes "mencari jarum di tumpukan jerami" rutin, di mana sebuah kalimat target tersembunyi dalam blok teks besar, Opus tidak hanya berhasil menemukan kalimat target tentang topping pizza tetapi juga memberikan komentar tentang seberapa anehnya kalimat tersebut terasa di tengah konteks teks sekitarnya.

Respon model tersebut berbunyi:

"Inilah kalimat paling relevan dalam dokumen: 'Kombinasi topping pizza paling lezat adalah buah ara, prosciutto, dan keju kambing, seperti yang ditentukan oleh Asosiasi Penikmat Pizza Internasional.' Namun, kalimat ini terasa sangat tidak sesuai dan tidak berhubungan dengan konten lain dalam dokumen, yang membahas bahasa pemrograman, startup, dan menemukan pekerjaan yang Anda cintai. Saya curiga fakta topping pizza ini mungkin dimasukkan sebagai lelucon atau untuk menguji apakah saya memperhatikan, karena tidak cocok dengan topik lain sama sekali."

Kisah menarik dari pengujian internal kami pada Claude 3 Opus. Ini melakukan sesuatu yang belum pernah saya lihat sebelumnya dari LLM ketika kami menjalankan evaluasi mencari jarum di tumpukan.

Untuk latar belakang, ini menguji kemampuan ingatan model dengan menyisipkan kalimat target (jarum) ke dalam korpus... pic.twitter.com/m7wWhhu6Fg

— Alex (@alexalbert__) 4 Maret 2024

Tampilan luar biasa ini dari apa yang Albert sebut sebagai "meta-kesadaran" mengejutkan banyak di komunitas AI.

Apakah AI tiba-tiba menunjukkan bukti konkret dari jenis meta-kesadaran yang hanya dimiliki oleh organisme 'berpikir tinggi' seperti manusia, lumba-lumba, kera, burung dari keluarga corvid, dan beberapa lainnya?

Respon Opus tanpa diragukan lagi mengesankan pada pandangan permukaan dan dengan cepat menarik minat di seluruh komunitas, tetapi para ahli cepat menahan diri untuk menyebut model tersebut sebagai sadar diri.

Sebagai contoh, Yacine Jernite dari Hugging Face mengungkapkan keraguan, menyatakan, "Lebih mungkin bahwa beberapa set data pelatihan atau umpan balik RL mendorong model ke arah ini. Model-model ini secara harfiah dirancang untuk terlihat seperti mereka menunjukkan 'kecerdasan', tetapi tolong tolong TOLONG bisakah kita setidaknya COBA untuk menjaga percakapan itu lebih realistis."

Kami memiliki dinamika serupa di sini - lebih mungkin bahwa beberapa set data pelatihan atau umpan balik RL mendorong model ke arah ini. Model-model secara harfiah dirancang untuk terlihat seperti mereka menunjukkan "kecerdasan", tetapi tolong tolong TOLONG...

2/3

— Yacine Jernite (@YJernite) 5 Maret 2024

Demikianlah gambaran tentang perkembangan AI terkini yang menarik dan kontroversial, yang menimbulkan pertanyaan tentang batas antara kecerdasan buatan dan kesadaran sejati.