ChatGPT Menyemprotkan Output Aneh dalam Meltdown Sementara yang Ajaib
ChatGPT sprays out weird outputs in strange temporary meltdown https://dailyai.com/2024/02/chatgpt-sprays-out-weird-outputs-in-strange-temporary-meltdown/

Keterangan Gambar : ChatGPT Menyemprotka

Tampaknya ChatGPT mengalami gangguan, dengan memberikan respons yang aneh dan tidak terduga. Kehebohan dimulai pada hari Selasa ketika pengguna bingung berbondong-bondong menuju subreddit r/ChatGPT, berbagi tangkapan layar tingkah laku aneh AI tersebut. Salah satu pengguna merangkum kebingungan tersebut, mengatakan, "Bukan hanya kamu, ChatGPT sedang mengalami gangguan."

Komunitas kemudian dipenuhi dengan deskripsi perilaku erratic ChatGPT, mengatakan bahwa AI tersebut "menjadi gila," "keluar jalur," dan "berbicara tak karuan." Di tengah ramainya pembicaraan di Reddit, seorang pengguna bernama z3ldafitzgerald membagikan pengalamannya yang menyeramkan, menyatakan, "Ini memberi saya perasaan yang sama—seperti menonton seseorang perlahan kehilangan akal sehatnya entah karena psikosis atau demensia. Ini pertama kalinya sesuatu yang terkait dengan kecerdasan buatan sungguh membuat saya merinding."

Ketika pengguna semakin mendalami, pengalaman mereka semakin aneh. Salah satu pengguna, bingung dengan respons ChatGPT terhadap pertanyaan sederhana tentang komputer, membagikan tangkapan layar jawaban AI yang puitis namun membingungkan: "Ini dilakukan sebagai karya baik dari jaringan seni untuk negara, seekor tikus ilmu pengetahuan, gambar mudah dari beberapa yang sedih, dan akhirnya, rumah seni global, hanya dalam satu pekerjaan dalam total istirahat."

Spekulasi tentang penyebab keanehan digital ini merajalela. Beberapa bertanya-tanya apakah 'suhu' AI tersebut terlalu tinggi, menyebabkan output yang tidak terduga, sementara yang lain merenung apakah pembaruan terbaru atau fitur baru yang menjadi penyebabnya.

Merefleksikan insiden ini, Dr. Sasha Luccioni dari Hugging Face menyoroti kerentanan bergantung pada sistem AI tertutup: "API kotak hitam dapat rusak saat digunakan secara langsung ketika salah satu komponen dasarnya diperbarui. Ini menjadi masalah ketika Anda membangun alat berbasis API ini, dan alat-alat tersebut juga rusak. Di sinilah keunggulan sumber terbuka, memungkinkan Anda untuk menemukan dan memperbaiki masalah!"

Ilmuwan kognitif Dr. Gary Marcus menyoroti bahwa halusinasi mungkin tidak seindah yang dibayangkan jika model-model ini terhubung ke infrastruktur kritis atau sistem pertahanan: "Kerusakan besar ChatGPT telah diperbaiki. Apakah OpenAI mengatakan apa pun tentang penyebabnya? Dengan ketergantungan masyarakat yang semakin meningkat pada alat-alat ini, kita harus menuntut transparansi di sini, terutama jika alat-alat ini akhirnya digunakan dalam pertahanan, kedokteran, pendidikan, infrastruktur, dll."

Ini bukan kali pertama ChatGPT menunjukkan perilaku seperti ini. Pada tahun 2023, kualitas GPT-4 tampaknya secara misterius berubah dan menurun. OpenAI agak mengakui hal ini tetapi tidak memberikan kesan bahwa mereka tahu mengapa hal itu terjadi. Kemudian, beberapa bahkan berspekulasi apakah ChatGPT menderita gangguan afektif musiman (SAD), dengan seorang peneliti menemukan bahwa ChatGPT berperilaku berbeda ketika 'berpikir' pada bulan Desember dibandingkan dengan ketika 'berpikir' pada bulan Mei.

ChatGPT kemungkinan akan terus memberikan pengingat berkala tentang sifat yang tidak terduga dari kecerdasan buatan dan bagaimana kita seharusnya tidak menganggap 'obyektivitas'nya sebagai sesuatu yang pasti.

Kasus antropomorfisasi?

Perilaku erratic ChatGPT juga menunjukkan kecenderungan kita untuk menganggap AI sebagai manusia, menaruhkan karakteristik, emosi, atau niat manusiawi pada teknologi tersebut.

Deskripsi yang digunakan oleh para pengguna, seperti ChatGPT "mengalami stroke," "menjadi gila," atau "kehilangan akal sehat," langsung menyerupai perilaku kita sendiri.

Tentu saja, ChatGPT tidak memiliki kesadaran dan tidak 'menderita' dari bentuk penyakit apapun.

AI tersebut hanya menangkap gangguan dan perilaku yang tidak terduga menggunakan bahasa alami, yang cenderung menipu kita untuk memberikan interpretasi manusiawi.

Sumber: https://www.reddit.com/r/ChatGPT/comments/7zj3z3/chatgpt_seems_to_have_glitched_spitting_out/