Menggagas Sistem AI yang Lebih Tangguh dan Adaptif melalui Rasa TakutMembangun AI Lebih Tangguh dan
Is ‘fear’ the key to building more adaptable, resilient, and natural AI systems? https://dailyai.com/2024/07/is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems/

Penelitian kecerdasan buatan didorong oleh upaya mencapai tingkat kecanggihan yang semakin tinggi, yang mencakup melatih sistem untuk berpikir dan berperilaku seperti manusia. Tujuan akhirnya? Siapa yang tahu. Tujuan untuk saat ini? Menciptakan agen kecerdasan buatan otonom yang mampu melakukan berbagai tugas. Konsep ini disebut kecerdasan buatan umum (AGI) atau superintelejensia, yang artinya sama. Sulit untuk menentukan dengan tepat apa yang dimaksud dengan AGI karena hampir tidak ada konsensus tentang apa itu 'kecerdasan', atau bahkan kapan atau bagaimana sistem kecerdasan buatan mungkin mencapainya. Beberapa bahkan percaya bahwa kecerdasan buatan, dalam keadaan saat ini, tidak akan pernah benar-benar mencapai kecerdasan umum. Profesor Tony Prescott dan Dr. Stuart Wilson dari University of Sheffield menggambarkan model bahasa generatif, seperti ChatGPT, sebagai terbatas karena mereka "tidak memiliki tubuh" dan tidak memiliki persepsi sensorik atau landasan dalam dunia nyata. Ilmuwan AI utama Meta, Yann LeCun, mengatakan kecerdasan kucing jauh lebih maju daripada sistem kecerdasan buatan terbaik saat ini. Namun, keterampilan ini mungkin tidak diperlukan untuk mencapai AGI, ada konsensus bahwa memindahkan sistem kecerdasan buatan yang kompleks dari laboratorium ke dunia nyata akan memerlukan mengadopsi perilaku yang mirip dengan yang diamati pada organisme alami. Salah satu pendekatan adalah dengan membedah elemen-elemen kognisi dan mencari tahu bagaimana sistem kecerdasan buatan dapat menirunya. Artikel DailyAI sebelumnya menyelidiki rasa ingin tahu dan kemampuannya untuk membimbing organisme menuju pengalaman dan tujuan baru, memacu evolusi kolektif dunia alam. Namun, ada emosi lain - komponen penting lain dari eksistensi kita - dari mana AGI bisa mendapat manfaat. Dan itu adalah ketakutan. Bagaimana AI bisa belajar dari ketakutan biologis? Jauh dari menjadi kelemahan atau kekurangan, ketakutan adalah salah satu alat paling kuat evolusi untuk menjaga keamanan organisme. Amygdala adalah struktur pusat yang mengatur ketakutan pada vertebrata. Pada manusia, itu adalah struktur kecil berbentuk almond yang terletak dalam lobus temporal otak. Amygdala secara utama menggerakkan respons ketakutan pada vertebrata. Sering disebut sebagai "pusat ketakutan," amygdala berfungsi sebagai sistem peringatan dini, terus-menerus memindai informasi sensorik masuk untuk ancaman potensial. Ketika ancaman terdeteksi - apakah itu lurch tiba-tiba dari mobil pengereman di depan atau bayangan yang bergeser dalam kegelapan - amygdala langsung beraksi, memicu serangkaian perubahan fisiologis dan perilaku yang dioptimalkan untuk respons defensif yang cepat: denyut jantung dan tekanan darah melonjak, mempersiapkan tubuh untuk "berkelahi atau lari" perhatian menyempit dan tajam, fokus pada sumber bahaya refleks mempercepat, mempersiapkan otot untuk tindakan menghindar dalam hitungan detik perubahan pemrosesan kognitif menjadi mode yang cepat, intuitif, "lebih baik aman daripada menyesal" Respons ini bukan hanya refleks sederhana tetapi serangkaian perubahan yang sangat adaptif, sensitif konteks yang secara fleksibel menyesuaikan perilaku dengan sifat dan tingkat ancaman yang ada. Ini juga sangat cepat. Kita menjadi sadar akan ancaman sekitar 300-400 milidetik setelah deteksi awal. Selain itu, amygdala tidak beroperasi sendiri. Ini sangat terhubung dengan daerah otak kunci lain yang terlibat dalam persepsi, ingatan, penalaran, dan tindakan. Mengapa ketakutan mungkin bermanfaat bagi AI? Jadi, mengapa ketakutan penting dalam konteks AI? Pada sistem biologis, ketakutan berfungsi sebagai mekanisme penting untuk deteksi ancaman dan respons yang cepat. Dengan meniru sistem ini dalam AI, kita mungkin dapat menciptakan sistem buatan yang lebih kokoh dan dapat beradaptasi. Hal ini terutama relevan untuk sistem otonom yang berinteraksi dengan dunia nyata. Sebagai contoh: meskipun kecerdasan AI meledak dalam beberapa tahun terakhir, mobil otonom masih cenderung kurang dalam hal keamanan dan keandalan. Regulator menyelidiki banyak insiden fatal yang melibatkan mobil otonom, termasuk model Tesla dengan fitur Autopilot dan Full Self-Driving. Berbicara dengan Guardian pada tahun 2022, Matthew Avery, direktur riset di Thatcham Research, menjelaskan mengapa mobil otonom begitu sulit untuk disempurnakan: "Nomor satu adalah bahwa ini lebih sulit dari yang dipahami produsen," kata Avery. Avery memperkirakan sekitar 80% fungsi mengemudi otonom melibatkan tugas yang relatif mudah seperti mengikuti jalur dan menghindari rintangan dasar. Tindakan selanjutnya, bagaimanapun, jauh lebih menantang. "Yang terakhir 10% sangat sulit," Avery menekankan, seperti "ketika Anda memiliki, Anda tahu, sapi berdiri di tengah jalan yang tidak ingin bergerak." Sistem AI mengandalkan pelatihan dan teknologinya untuk melihat sapi dan membuat keputusan yang tepat. Proses ini tidak selalu cukup cepat atau andal, sehingga tingginya risiko tabrakan dan kecelakaan, terutama ketika sistem menghadapi sesuatu yang tidak dilatih untuk dipahami. Menyuntikkan sistem AI dengan ketakutan mungkin memberikan cara alternatif, lebih cepat, dan lebih efisien untuk mencapai keputusan tersebut. Dalam sistem biologis, ketakutan memicu respons instingif yang tidak memerlukan pemrosesan kompleks. Misalnya, seorang pengemudi manusia mungkin secara naluriah menginjak rem hanya dengan saran rintangan, bahkan sebelum sepenuhnya memproses apa itu. Reaksi hampir instan ini, didorong oleh respons ketakutan, bisa menjadi perbedaan antara hampir tabrakan dan tabrakan. Selain itu, respons berbasis ketakutan dalam alam sangat mudah beradaptasi dan umumnya berlaku untuk situasi baru. Sistem AI dengan mekanisme mirip ketakutan mungkin lebih siap menghadapi skenario yang tidak terduga. Mendekonstruksi ketakutan: wawasan dari lalat buah Kita jauh dari mengembangkan sistem buatan yang mereplikasi daerah saraf terintegrasi dan khusus dalam otak biologis, tetapi itu tidak berarti kita tidak dapat memodelkan mekanisme tersebut dengan cara lain. Jadi, mari kita melihat bagaimana invertebrata - serangga kecil, misalnya - mendeteksi dan memproses ketakutan. Meskipun mereka tidak memiliki struktur langsung yang analog dengan amygdala, itu tidak berarti mereka tidak memiliki sirkuit yang mencapai tujuan serupa. Sebagai contoh, penelitian terbaru tentang respons ketakutan Drosophila melanogaster, lalat buah umum, memberikan wawasan menarik tentang blok bangunan dasar emosi primitif. Dalam sebuah eksperimen yang dilakukan di Caltech pada tahun 2015, para peneliti yang dipimpin oleh David Anderson mengekspos lalat pada bayangan di atas yang dirancang untuk meniru predator yang mendekat. Dengan menggunakan kamera berkecepatan tinggi dan algoritma visi mesin, mereka secara teliti menganalisis perilaku lalat, mencari tanda-tanda dari apa yang Anderson sebut sebagai "primitif emosi" - komponen dasar dari keadaan emosional. Secara luar biasa, lalat menunjukkan serangkaian perilaku yang sangat mirip dengan respons ketakutan yang terlihat pada mamalia. Ketika bayangan muncul, lalat membeku di tempat, dan sayap mereka miring pada sudut untuk mempersiapkan pelarian cepat. Ketika ancaman berlanjut, beberapa lalat terbang, melarikan diri dari bayangan dengan kecepatan tinggi. Yang lain tetap membeku untuk jangka waktu yang lebih lama, menunjukkan keadaan kewaspadaan dan kewaspadaan yang tinggi. Secara krusial, respons ini bukan hanya refleks yang dipicu secara otomatis oleh stimulus visual. Sebaliknya, mereka tampak mencerminkan keadaan internal yang berkelanjutan, semacam "ketakutan lalat" yang bertahan bahkan setelah ancaman berlalu. Hal ini terlihat dari kenyataan bahwa perilaku defensif yang meningkat dari lalat dapat dipicu oleh stimulus yang berbeda (hembusan udara) bahkan menit setelah paparan bayangan awal. Selain itu, intensitas dan durasi respons ketakutan meningkat seiring tingkat ancaman. Lalat yang terpapar pada presentasi bayangan ganda menunjukkan perilaku defensif yang semakin kuat dan berlangsung lebih lama, menunjukkan semacam "pembelajaran ketakutan" yang memungkinkan mereka mengkalibrasi respons mereka berdasarkan tingkat keparahan dan frekuensi bahaya. Seperti yang diklaim oleh Anderson dan timnya, temuan ini menunjukkan bahwa blok bangunan dari keadaan emosional - ketahanan, skalabilitas, dan generalisasi - hadir bahkan dalam makhluk yang paling sederhana. Jika kita dapat mendekode bagaimana organisme yang lebih sederhana seperti lalat buah memproses dan merespons ancaman, kita mungkin dapat mengekstrak prinsip-prinsip inti perilaku adaptif dan pemeliharaan diri. Bentuk primitif ketakutan bisa diterapkan untuk mengembangkan sistem AI yang lebih kokoh, lebih aman, dan lebih peka terhadap risiko dan tantangan dunia nyata. Menyuntikkan AI dengan sirkuit ketakutan Ini adalah teori yang bagus, tetapi apakah AI bisa diberi bentuk 'ketakutan' yang otentik dan fungsional dalam praktiknya? Satu studi menarik meneliti hal tersebut dengan tujuan meningkatkan keamanan mobil otonom dan sistem otonom lainnya. "Fear-Neuro-Inspired Reinforcement Learning for Safe Autonomous Driving," yang dipimpin oleh Chen Lv di Nanyang Technological University, Singapura, mengembangkan kerangka pembelajaran penguatan yang terinspirasi oleh ketakutan neuro (FNI-RL) untuk meningkatkan kinerja mobil otonom. Dengan membangun sistem AI yang dapat mengenali dan merespons isyarat dan pola halus yang memicu pengemudi defensif manusia - yang mereka sebut "neuron ketakutan" - kita mungkin dapat menciptakan mobil otonom yang menavigasi jalan dengan kehati-hatian intuitif dan sensitivitas risiko yang mereka butuhkan. Kerangka FNI-RL menerjemahkan prinsip-prinsip kunci sirkuit ketakutan otak ke dalam model komputasi mengenai mengemudi yang sensitif terhadap ancaman, memungkinkan kendaraan otonom untuk belajar dan menerapkan strategi defensif adaptif secara real time. Ini melibatkan tiga komponen kunci yang dimodelkan setelah elemen inti respons ketakutan saraf: Model "ketakutan" yang belajar untuk mengenali dan menilai situasi mengemudi yang menandakan risiko tabrakan yang meningkat, memainkan peran analog dengan fungsi deteksi ancaman amygdala. Modul "imajinasi antagonis" yang mensimulasikan skenario berbahaya secara mental, memungkinkan sistem untuk "berlatih" manuver defensif tanpa konsekuensi dunia nyata - bentuk pembelajaran bebas risiko yang mengingatkan pada kapasitas latihan mental pengemudi manusia. Mesin pengambilan keputusan "terbatas ketakutan" yang menimbang tindakan potensial tidak hanya berdasarkan imbalan yang diharapkan secara langsung (mis. kemajuan menuju tujuan), tetapi juga berdasarkan tingkat risiko yang dinilai oleh model ketakutan dan komponen imajinasi antagonis. Ini mencerminkan peran amygdala dalam memandu perilaku secara fleksibel berdasarkan perhitungan ancaman dan keselamatan yang sedang berlangsung. Skema kerangka FNI-RL: (a) Sistem RL terinspirasi otak. (b) Modul imajinasi antagonis yang mensimulasikan fungsi amygdala. (c) Mekanisme aktor-kritik terbatas ketakutan. (d) Loop interaksi agen-lingkungan. Sumber: ResearchGate. Untuk menguji sistem ini, para peneliti mengujinya dalam serangkaian simulasi mengemudi berfidelitas tinggi yang menampilkan skenario yang menantang dan kritis keamanan: Pemotongan mendadak dan belokan oleh pengemudi agresif Pejalan kaki yang tidak teratur menyeberang ke jalan Belokan tajam dan tikungan buta dengan visibilitas terbatas Jalan licin dan kondisi cuaca buruk Dalam uji coba ini, kendaraan yang dilengkapi dengan FNI-RL menunjukkan kinerja keamanan yang luar biasa, secara konsisten melampaui pengemudi manusia dan teknik pembelajaran penguatan tradisional untuk menghindari tabrakan dan berlatih keterampilan mengemudi defensif. Dalam satu contoh menonjol, sistem FNI-RL berhasil menavigasi penggabungan lalu lintas mendadak dan berkecepatan tinggi dengan tingkat keberhasilan 90%, dibandingkan dengan hanya 60% untuk dasar RL terkini. Bahkan mencapai keuntungan keamanan tanpa mengorbankan kinerja mengemudi atau kenyamanan penumpang. Dalam uji coba lain, para peneliti menyelidiki kemampuan sistem FNI-RL untuk belajar dan menggeneralisasi strategi defensif di berbagai lingkungan mengemudi. Dalam simulasi persimpangan kota yang ramai, AI belajar dalam beberapa percobaan untuk mengenali tanda-tanda pengemudi ceroboh - perubahan jalur tiba-tiba, percepatan agresif - dan menyesuaikan perilakunya sendiri secara antisipatif untuk memberikan ruang yang lebih luas. Secara luar biasa, sistem kemudian mampu mentransfer kewaspadaan yang dipelajari ini ke skenario mengemudi jalan raya yang baru, secara otomatis mendaftarkan manuver potong berbahaya dan merespons dengan tindakan menghindar. Ini menunjukkan potensi kecerdasan emosional yang terinspirasi oleh saraf untuk meningkatkan keamanan dan ketangguhan sistem mengemudi otonom. Dengan memberikan kendaraan dengan "amygdala digital" yang disesuaikan dengan isyarat visceral risiko jalan, kita mungkin dapat menciptakan mobil otonom yang dapat menavigasi tantangan jalan raya dengan kesadaran defensif yang lancar, proaktif. Menuju ilmu robotika yang sadar emosi Meskipun kemajuan AI baru-baru ini bergantung pada kekuatan komputasi brute-force, para peneliti sekarang mengambil inspirasi dari respons emosional manusia untuk menciptakan sistem buatan yang lebih cerdas dan adaptif. Paradigma ini, yang dinamakan "AI terinspirasi biologi," meluas ke luar mobil otonom ke bidang seperti manufaktur, perawatan kesehatan, dan eksplorasi luar angkasa. Ada banyak sudut menarik untuk dieksplorasi. Misalnya, tangan robot sedang dikembangkan dengan "nociceptors digital" yang meniru reseptor nyeri, memungkinkan reaksi cepat terhadap kerusakan potensial. Dalam hal perangkat keras, chip analog terinspirasi biologi IBM menggunakan "memristors" untuk menyimpan nilai numerik yang bervariasi, mengurangi transmisi data antara memori dan prosesor. Demikian pula, para peneliti di Institut Teknologi India, Bombay, telah merancang chip untuk Jaringan Saraf Spiking (SNN), yang sangat menyerupai fungsi neuron biologis. Profesor Udayan Ganguly melap