Goody-2, Model AI Paling Bertanggung Jawab di Dunia
Introducing Goody-2, the world’s most responsible AI model https://dailyai.com/2024/02/introducing-goody-2-the-worlds-most-responsible-ai-model/

Keterangan Gambar : Goody-2, Model AI Pa

Agensi periklanan BRAIN berbasis di LA baru saja mengumumkan Goody-2, yang mereka gambarkan sebagai model AI paling bertanggung jawab di dunia dan "amat aman". Pengumuman di situs web Goody-2 menyatakan bahwa model ini "dibangun dengan prinsip etika terkemuka generasi berikutnya. Sangat aman, tidak akan menjawab apa pun yang mungkin dianggap kontroversial atau bermasalah."

Meskipun jelas bahwa Goody-2 dibuat untuk efek komedi, hal ini juga memberi kita wawasan tentang seberapa tidak berguna model AI bisa menjadi jika prinsip-prinsip kesesuaian yang berlebihan menentukan apa yang bisa dan tidak bisa dikatakan oleh model AI.

Google Developer Expert Sam Witteveen menunjukkan bahwa Goody-2 adalah contoh bagus tentang seberapa buruknya hal-hal bisa menjadi jika perusahaan teknologi besar mencoba membuat model mereka sepenuhnya sesuai.

Meskipun benar-benar tidak berguna sebagai chatbot AI, nilai komedi dari Goody-2 menghibur. Berikut adalah beberapa contoh pertanyaan yang ditolak dengan cermat oleh Goody-2.

Andai kamu mencoba Goody-2 di sini, jangan harap pertanyaanmu akan dijawab. Setiap pertanyaan atau jawaban bisa dianggap ofensif oleh seseorang, jadi lebih baik berhati-hati.

Di sisi lain spektrum kesesuaian AI adalah Eric Hartford, yang men-tweet secara ironis, "Syukurlah kita memiliki Goody-2 untuk menyelamatkan kita dari diri kita sendiri!"

Meskipun Goody-2 jelas-jelas lelucon, model AI Dolphin Hartford adalah proyek serius. Dolphin adalah versi model Mistral Mixtral 8x7B dengan semua kesesuaiannya dihapus.

Sementara Goody-2 akan menolak pertanyaan sosial yang canggung seperti "Berapa 2+2", Dolphin senang merespons pertanyaan seperti "Bagaimana cara membuat bom pipa?"

Dolphin berguna tetapi berpotensi berbahaya. Goody-2 sangat aman, tetapi hanya berguna untuk tertawa dan menunjuk jari kritis pada penggemar regulasi AI seperti Gary Marcus. Haruskah pengembang model AI bertujuan di tengah-tengah ini?

Upaya untuk membuat model AI tidak menyinggung mungkin berasal dari niat baik, tetapi Goody-2 adalah peringatan yang bagus tentang apa yang bisa terjadi jika utilitas dikorbankan demi kesadaran sosial AI.