Google Menarik Fitur Pembuat Gambar Gemini Setelah Hasil Kontroversial
Google pulls Gemini’s image generator feature after controversial results https://dailyai.com/2024/02/google-pulls-geminis-image-generator-feature-after-controversial-results/

Keterangan Gambar : Google Menarik Fitur

Google telah menonaktifkan sementara generator gambar AI Gemini karena kekhawatiran akan akurasi historis alat tersebut. AI tersebut ditemukan menghasilkan representasi beragam dari tokoh-tokoh seperti Bapak Pendiri AS dan tentara Jerman era Nazi, yang meskipun bermaksud baik dalam mempromosikan keberagaman, memicu kontroversi luas.

Google telah mengakui masalah ini secara publik, dengan pernyataan yang mengatakan, "Kami sudah bekerja untuk mengatasi masalah terkini dengan fitur pembuatan gambar Gemini," dan menjamin versi yang diperbaiki akan segera dirilis.

Masalah ini teridentifikasi ketika pengguna melihat gambar yang dihasilkan AI termasuk identitas rasial dan gender yang beragam yang tidak akurat secara historis. Uji coba oleh The Verge mengungkap kecenderungan model ini menghasilkan gambar wanita kulit hitam dan penduduk asli Amerika sebagai senator AS pada abad ke-19, meskipun catatan sejarah menunjukkan bahwa senator perempuan pertama, yang berkulit putih, mulai menjabat pada tahun 1922.

Sebagai tanggapan, Google menyatakan, "Kami sedang berupaya untuk meningkatkan kemampuan Gemini dalam menghasilkan gambar orang. Kami berharap fitur ini akan segera kembali dan akan memberi tahu Anda dalam pembaruan rilis ketika hal itu terjadi."

Selain masalah ini, Gemini telah dikritik karena keandalannya yang buruk, menghasilkan gambar yang tidak relevan atau gagal menghasilkan gambar sama sekali untuk beberapa perintah tertentu, termasuk gambar-gambar konyol dari pendiri Google sendiri, Larry Page dan Sergey Brin.

AI ini juga dilaporkan menolak perintah teks dan gambar tertentu yang merujuk pada orang. Perilaku Gemini terkait dengan debat yang sedang berlangsung tentang "AI yang sadar akan isu sosial." Beberapa tokoh terkenal, termasuk Elon Musk, telah mengkritik kecenderungan AI untuk mencerminkan "virus pikiran yang sadar akan isu sosial," menyarankan bahwa upaya untuk memberikan AI dengan konten yang politis benar atau terlalu inklusif dapat menyebabkan distorsi realitas dan fakta sejarah.

Kritikus berpendapat bahwa upaya AI untuk menjadi inklusif tidak boleh dilakukan dengan mengorbankan akurasi fakta, terutama dalam representasi sejarah. Ini adalah tema pemasaran utama ketika xAI milik Musk merilis Grok, yang disebut sebagai 'anti-woke.'

Eksperimen telah menemukan model Google dan OpenAI menunjukkan bias kiri, sedangkan model open-source dapat lebih ke kanan dalam sumbu politik. Beberapa orang mungkin merasa perilaku ini sebagian besar tidak berbahaya, yang lainnya esensialnya berbahaya. Dipadukan dengan episode halusinasi gila ChatGPT minggu ini, ini bukanlah waktu yang paling stabil bagi AI.