apakah ketakutan kunci membangun sistem AI yang lebih dapat beradaptasi, tangguh, dan alami? Mengem
Is “fear” the key the building more adaptable, resilient, and natural AI systems? https://dailyai.com/2024/07/is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems/

Penelitian kecerdasan buatan didorong oleh upaya untuk mencapai tingkat kecanggihan yang semakin tinggi, yang mencakup melatih sistem untuk berpikir dan berperilaku seperti manusia. Tujuan akhirnya? Siapa yang tahu. Tujuan untuk saat ini? Menciptakan agen kecerdasan buatan otonom dan umum yang mampu melakukan berbagai tugas. Paradigma ini disebut kecerdasan buatan umum (AGI) atau superintelejensia.

Menentukan dengan tepat apa yang dimaksud dengan AGI menjadi tantangan karena hampir tidak ada konsensus tentang apa itu 'kecerdasan', atau bahkan kapan atau bagaimana sistem kecerdasan buatan mungkin mencapainya. Beberapa bahkan percaya bahwa kecerdasan buatan dalam keadaan saat ini tidak akan pernah benar-benar mencapai kecerdasan alami.

Profesor Tony Prescott dan Dr. Stuart Wilson dari Universitas Sheffield menggambarkan model bahasa generatif, seperti ChatGPT, sebagai terbatas karena mereka "tidak memiliki tubuh." Ilmuwan AI utama Meta, Yann LeCun, mengatakan bahwa kecerdasan seorang balita jauh lebih cerdas daripada sistem kecerdasan buatan terbaik saat ini.

Hewan memiliki kemampuan bawaan untuk menavigasi lingkungan yang kompleks dan tidak terduga, belajar dari pengalaman terbatas, dan membuat keputusan berdasarkan informasi yang tidak lengkap - kemampuan yang masih utamanya tidak dapat diakses oleh sistem kecerdasan buatan.

Meskipun perilaku 'berbadan' mungkin tidak diperlukan untuk mencapai AGI, ada konsensus bahwa sistem kecerdasan buatan yang kompleks bergerak dari laboratorium ke dunia nyata akan perlu mengadopsi perilaku yang mirip dengan yang diamati pada organisme alami.

Salah satu pendekatan adalah dengan membedah kognisi kompleks menjadi komponen-komponen dasarnya dan kemudian merancang ulang sistem kecerdasan buatan untuk menirunya. Artikel sebelumnya menyelidiki rasa ingin tahu dan kemampuannya untuk membimbing organisme menuju pengalaman dan tujuan baru, memacu evolusi kolektif dunia alam.

Namun, ada emosi lain - komponen penting lain dari eksistensi kita - dari mana AGI bisa mendapat manfaat. Dan itu adalah ketakutan. Bagaimana AI bisa belajar dari ketakutan biologis? Ketakutan bukanlah kelemahan atau kekurangan, tetapi merupakan salah satu alat paling kuat evolusi untuk menjaga keamanan organisme di hadapan bahaya. Amygdala adalah struktur sentral yang mengatur ketakutan pada vertebrata, mamalia, reptil, amfibi, ikan, dan burung. Pada manusia, itu adalah struktur kecil berbentuk almond yang terletak dalam lobus temporal otak. Amygdala secara utama menggerakkan respons ketakutan pada vertebrata.

Ketika ancaman terdeteksi, amygdala bergerak cepat, memicu serangkaian perubahan fisiologis dan perilaku yang dioptimalkan untuk respons defensif yang cepat. Respons ketakutan ini bukanlah refleks sederhana, tetapi serangkaian perubahan yang sangat adaptif, sensitif konteks, yang menyesuaikan perilaku dengan sifat dan tingkat ancaman yang dihadapi. Lebih lanjut, amygdala tidak beroperasi sendiri, tetapi terhubung erat dengan daerah otak kunci lainnya yang terlibat dalam persepsi, ingatan, penalaran, dan tindakan.

Dekonstruksi ketakutan: wawasan dari lalat buah. Kita masih jauh dari mengembangkan sistem kecerdasan buatan yang sepenuhnya mereplikasi daerah saraf terintegrasi dan khusus yang ditemukan dalam otak biologis. Tetapi itu tidak berarti kita tidak dapat memodelkan mekanisme tersebut dengan cara lain. Jadi, mari kita melihat bagaimana invertebrata - serangga kecil, misalnya - mendeteksi dan memproses ketakutan. Meskipun mereka tidak memiliki struktur yang langsung analog dengan amygdala, itu tidak berarti mereka tidak memiliki sirkuit yang mencapai tujuan yang sama.

Sebagai contoh, penelitian terbaru tentang respons ketakutan Drosophila melanogaster, lalat buah umum, memberikan wawasan menarik tentang blok bangunan dasar emosi primitif. Dalam sebuah eksperimen yang dilakukan di Caltech pada tahun 2015, para peneliti yang dipimpin oleh David Anderson mengekspos lalat pada bayangan di atas yang dirancang untuk meniru predator yang mendekat. Dengan menggunakan kamera berkecepatan tinggi dan algoritma visi mesin, mereka secara teliti menganalisis perilaku lalat, mencari tanda-tanda dari apa yang Anderson sebut sebagai "primitif emosi" - komponen dasar dari keadaan emosional.

Dengan luar biasa, lalat menunjukkan serangkaian perilaku yang sangat mirip dengan respons ketakutan yang terlihat pada mamalia. Ketika bayangan muncul, lalat membeku di tempat, dan sayap mereka terangkat pada sudut untuk bersiap-siap melarikan diri dengan cepat. Ketika ancaman berlanjut, beberapa lalat terbang, melarikan diri dari bayangan dengan kecepatan tinggi. Yang lain tetap membeku untuk jangka waktu yang lebih lama, menunjukkan keadaan kewaspadaan dan kewaspadaan yang tinggi.

Secara krusial, respons ini bukanlah refleks semata yang dipicu secara otomatis oleh stimulus visual. Sebaliknya, mereka tampak mencerminkan keadaan internal yang berkelanjutan, semacam "ketakutan lalat" yang bertahan bahkan setelah ancaman berlalu. Hal ini terlihat dari kenyataan bahwa perilaku defensif yang meningkat dari lalat dapat dipicu oleh stimulus yang berbeda (hembusan udara) bahkan beberapa menit setelah paparan bayangan awal.

Lebih lanjut, intensitas dan durasi respons ketakutan meningkat seiring dengan tingkat ancaman. Lalat yang terpapar beberapa presentasi bayangan menunjukkan perilaku defensif yang semakin kuat dan berlangsung lebih lama, menunjukkan semacam "pembelajaran ketakutan" yang memungkinkan mereka mengkalibrasi respons mereka berdasarkan tingkat dan frekuensi bahaya.

Seperti yang diklaim oleh Anderson dan timnya, temuan ini menunjukkan bahwa blok bangunan dari keadaan emosional - ketahanan, skalabilitas, dan generalisasi - hadir bahkan pada makhluk yang paling sederhana. Jika kita dapat mendekripsi bagaimana organisme yang lebih sederhana seperti lalat buah memproses dan merespons ancaman, kita dapat potensial mengekstrak prinsip-prinsip inti perilaku adaptif dan pemeliharaan diri.

Wawasan ini kemudian dapat diterapkan untuk mengembangkan sistem kecerdasan buatan yang lebih tangguh, lebih aman, dan lebih sensitif terhadap risiko dan tantangan dunia nyata. Bagaimana ketakutan bisa berinteraksi dengan AI? Dalam sistem biologis, ketakutan berfungsi sebagai mekanisme penting untuk deteksi ancaman dan respons yang cepat. Dengan meniru sistem ini dalam AI, kita potensial dapat menciptakan sistem buatan yang lebih tangguh dan dapat beradaptasi.

Kemampuan ini relevan untuk sistem otonom. Sebagai contoh: meskipun kecerdasan AI meledak dalam beberapa tahun terakhir, mobil otonom masih cenderung kurang dalam hal keamanan dan keandalan. Penyelidikan regulasi saat ini aktif di AS menyusul insiden fatal yang melibatkan mobil otonom, termasuk model Tesla dengan fitur Autopilot dan Full Self-Driving.

Meskipun Elon Musk memohon, insiden dunia nyata dan penyelidikan yang sedang berlangsung oleh Departemen Kehakiman dan Administrasi Keselamatan Lalu Lintas Nasional menunjukkan bahwa teknologi ini tidak sehandal yang diklaim.

Berbicara kepada Guardian pada tahun 2022, Matthew Avery, direktur riset di Thatcham Research, menjelaskan mengapa hal ini terjadi: "Nomor satu adalah bahwa ini lebih sulit daripada yang dipahami produsen," Avery menyatakan. Sebagian besar fungsi mengemudi otonom - sekitar 80% - melibatkan tugas yang relatif mudah seperti mengikuti jalur dan menghindari rintangan dasar.

Tindakan selanjutnya, bagaimanapun, jauh lebih menantang. "Sepuluh persen terakhir sangat sulit," Avery menekankan, seperti "ketika Anda memiliki, Anda tahu, sapi berdiri di tengah jalan yang tidak ingin bergerak."

Sebuah sistem AI bergantung pada pelatihannya dan teknologinya untuk melihat sapi dan membuat keputusan yang tepat. Proses ini tidak selalu cukup cepat atau andal, sehingga risiko tinggi terhadap tabrakan dan kecelakaan, terutama ketika sistem menghadapi sesuatu yang tidak dilatih untuk dipahami.

Memberikan sistem AI dengan ketakutan mungkin memberikan alternatif, cara yang lebih cepat, dan lebih efisien untuk mencapai keputusan tersebut. Ketakutan, dalam sistem biologis, memicu respons instingif yang tidak memerlukan pemrosesan yang kompleks. Misalnya, seorang pengemudi manusia mungkin secara naluriah menginjak rem hanya dengan saranan rintangan, bahkan sebelum sepenuhnya memproses apa itu.

Reaksi yang hampir instan ini, didorong oleh respons ketakutan, bisa menjadi perbedaan antara hampir tabrakan dan tabrakan. Selain itu, respons berbasis ketakutan dalam alam sangat adaptif dan umumnya berlaku untuk situasi baru.

Sistem AI dengan mekanisme mirip ketakutan mungkin lebih siap menghadapi skenario yang tidak terduga. Mungkin bereaksi dengan hati-hati terhadap setiap ancaman potensial daripada terbatas hanya pada situasi tertentu di mana ia dilatih.

Menyuntikkan sistem AI dengan sirkuit ketakutan. Salah satu studi menarik menguji apakah konsep "ketakutan" dapat meningkatkan keamanan mobil otonom dan sistem otonom lainnya. "Fear-Neuro-Inspired Reinforcement Learning for Safe Autonomous Driving," yang dipimpin oleh Chen Lv di Universitas Teknologi Nanyang, Singapura, mengembangkan kerangka pembelajaran penguatan yang terinspirasi oleh ketakutan (FNI-RL) untuk meningkatkan kinerja mobil otonom.

Dengan membangun sistem AI yang dapat mengenali dan merespons isyarat dan pola halus yang memicu pengemudi defensif manusia - yang mereka sebut "neuron ketakutan" - kita mungkin dapat menciptakan mobil otonom yang menavigasi jalan dengan kehati-hatian intuitif dan sensitivitas risiko yang mereka butuhkan.

Kerangka FNI-RL menerjemahkan prinsip-prinsip kunci dari sirkuit ketakutan otak ke dalam model komputasi mengenai mengemudi yang sensitif terhadap ancaman, memungkinkan kendaraan otonom untuk belajar dan menerapkan strategi defensif adaptif secara real time.

Ini melibatkan tiga komponen kunci yang dimodelkan setelah elemen-elemen inti dari respons ketakutan saraf:

Model "ketakutan" yang belajar untuk mengenali dan menilai situasi mengemudi yang menunjukkan risiko tabrakan yang meningkat, berperan analog dengan fungsi deteksi ancaman dari amygdala.

Modul "imajinasi antagonis" yang mensimulasikan skenario berbahaya secara mental, memungkinkan sistem untuk "berlatih" manuver defensif tanpa konsekuensi dunia nyata - bentuk pembelajaran bebas risiko yang mengingatkan pada kapasitas latihan mental pengemudi manusia.

Mesin pengambilan keputusan "terbatas ketakutan" yang menimbang tindakan potensial tidak hanya berdasarkan imbalan yang diharapkan secara langsung (mis. kemajuan menuju tujuan), tetapi juga berdasarkan tingkat risiko yang dinilai oleh model ketakutan dan komponen imajinasi antagonis. Ini mencerminkan peran amygdala dalam memandu perilaku secara fleksibel berdasarkan perhitungan ancaman dan keselamatan yang berkelanjutan.

Untuk menguji sistem ini, para peneliti mengujinya dalam serangkaian simulasi mengemudi berfidelitas tinggi yang menampilkan skenario yang menantang dan kritis dari segi keamanan:

Pemotongan mendadak dan belokan oleh pengemudi agresif

Pejalan kaki yang tidak teratur menyeberang ke jalan

Belokan tajam dan tikungan buta dengan visibilitas terbatas

Jalan licin dan kondisi cuaca buruk

Dalam uji coba ini, kendaraan yang dilengkapi dengan FNI-RL menunjukkan kinerja keamanan yang luar biasa, secara konsisten melampaui baik pengemudi manusia maupun pendekatan pembelajaran penguatan tradisional, menghindari tabrakan dan keterampilan mengemudi defensif.

Dalam satu contoh menonjol, sistem FNI-RL berhasil menavigasi penggabungan lalu lintas mendadak dan berkecepatan tinggi dengan tingkat keberhasilan 90%, dibandingkan dengan hanya 60% untuk dasar RL terkini.

Bahkan mencapai keuntungan keamanan tanpa mengorbankan kinerja mengemudi atau kenyamanan penumpang. Dalam uji coba lain, para peneliti menyelidiki kemampuan sistem FNI-RL untuk belajar dan menggeneralisasikan strategi defensif di berbagai lingkungan mengemudi.

Dalam simulasi persimpangan kota yang ramai, AI belajar dalam beberapa percobaan untuk mengenali tanda-tanda pengemudi yang ceroboh - perubahan jalur mendadak, percepatan agresif - dan menyesuaikan perilakunya sendiri secara antisipatif untuk memberikan ruang yang lebih luas.

Secara luar biasa, sistem kemudian mampu mentransfer kewaspadaan yang telah dipelajari ini ke skenario mengemudi di jalan raya yang baru, secara otomatis mendeteksi manuver potongan berbahaya dan merespons dengan tindakan menghindar.

Ini menunjukkan potensi kecerdasan emosional yang terinspirasi oleh saraf untuk meningkatkan keamanan dan ketangguhan sistem mengemudi otonom.

Dengan memberikan kendaraan dengan "amygdala digital" yang disesuaikan dengan isyarat visceral risiko jalan, kita mungkin dapat menciptakan mobil otonom yang dapat menavigasi tantangan jalan raya dengan kesadaran defensif yang proaktif dan cair yang melengkapi kapasitas mereka yang sudah tangguh.

Menuju ilmu robotika yang sadar emosi. Sementara kemajuan AI terbaru bergantung pada kekuatan komputasi brute-force, para peneliti sekarang mengambil inspirasi dari respons emosional manusia untuk menciptakan sistem buatan yang lebih cerdas dan adaptif.

Paradigma ini, yang dinamakan "AI terinspirasi biologi," meluas ke luar mobil otonom ke bidang seperti manufaktur, perawatan kesehatan, dan eksplorasi luar angkasa.

Ada banyak sudut menarik untuk dieksplorasi. Misalnya, tangan robot sedang dikembangkan dengan "nociceptors digital" yang meniru reseptor nyeri, memungkinkan reaksi cepat terhadap kerusakan potensial.

Dalam hal perangkat keras, chip analog terinspirasi biologi dari IBM menggunakan "memristors" untuk menyimpan nilai numerik yang bervariasi, mengurangi transmisi data antara memori dan prosesor.

Demikian pula, peneliti di Institut Teknologi India, Bombay, telah merancang chip untuk Jaringan Saraf Spiking (SNNs), yang sangat mirip dengan fungsi neuron biologis.

Profesor Udayan Ganguly melaporkan bahwa chip ini mencapai "5.000 kali lebih rendah energi per lonjakan pada area yang sama dan 10 kali lebih rendah daya siaga" dibandingkan dengan desain konvensional.

Kemajuan ini dalam komputasi neuromorfik membawa kita lebih dekat ke apa yang Ganguly deskripsikan sebagai "inti neurosinaptik yang sangat hemat daya dan mekanisme