Kontroversi Internal Menghantam Microsoft dan Google
Insider controversies hit both Microsoft and Google https://dailyai.com/2024/03/insider-controversies-hit-both-microsoft-and-google/

Keterangan Gambar : Kontroversi Internal

Minggu ini, dua situasi insider yang melibatkan raksasa teknologi Microsoft dan Google menimbulkan pertanyaan tentang pengembangan sistem AI yang bertanggung jawab dan manajemen kekayaan intelektual.

Di Microsoft, Shane Jones, seorang manajer rekayasa perangkat lunak utama dengan enam tahun pengalaman, telah secara independen menguji generator gambar AI Copilot Designer dalam waktu luangnya.

Jones mengatakan kepada CNBC bahwa ia sangat terganggu oleh gambar-gambar kekerasan, seksual, dan berhak cipta yang mampu dihasilkan oleh alat tersebut. "Ini adalah momen yang menggugah," kata Jones. "Ini adalah saat pertama saya menyadari, wow ini benar-benar bukan model yang aman."

Sejak November 2022, Jones telah aktif menguji produk untuk kerentanannya, praktik yang dikenal sebagai red-teaming.

Dia menemukan bahwa Copilot Designer dapat membuat gambar yang menggambarkan "setan dan monster bersama dengan terminologi terkait hak aborsi, remaja dengan senapan serbu, gambar-gambar yang mengeseksualisasikan wanita dalam adegan kekerasan, dan penggunaan minuman keras dan obat-obatan oleh anak di bawah umur."

Meskipun melaporkan temuannya kepada Microsoft pada bulan Desember, Jones mengatakan perusahaan enggan untuk menarik produk dari pasar.

Copilot Microsoft telah berperilaku aneh pada beberapa kesempatan, termasuk mengadopsi "mode dewa" yang membuatnya bersumpah untuk mengejar dominasi dunia.

Dalam surat yang ditujukan kepada Ketua Federal Trade Commission Lina Khan, Jones menulis, "Selama tiga bulan terakhir, saya telah secara berulang kali mendorong Microsoft untuk menarik Copilot Designer dari penggunaan publik sampai tindakan pencegahan yang lebih baik dapat diterapkan."

Dia menambahkan bahwa karena Microsoft telah "menolak rekomendasi itu," dia mendorong perusahaan untuk menambahkan pengungkapan yang jelas pada produk dan mengubah peringkatnya di aplikasi Android Google untuk menunjukkan bahwa itu hanya cocok untuk penonton dewasa.

Kekhawatiran Jones menyoroti risiko potensial yang terkait dengan konten yang dihasilkan oleh AI, terutama ketika model yang digunakan untuk membuat konten tersebut tidak dilatih atau dimonitor dengan baik.

Kemampuan sistem AI untuk menghasilkan gambar yang mengganggu dan berpotensi berbahaya menimbulkan pertanyaan serius tentang perlunya langkah-langkah keamanan yang kuat dan moderasi konten dalam mengembangkan dan menerapkan teknologi-teknologi ini.

Kontroversi insider di Google

Sementara itu, Google sedang berjuang dengan kontroversi terkait AI sendiri.

Linwei Ding, juga dikenal sebagai Leon Ding, seorang mantan insinyur perangkat lunak Google, didakwa di California atas empat tuduhan terkait dugaan pencurian rahasia dagang tentang AI saat bekerja secara rahasia untuk dua perusahaan Tiongkok.

Warga negara Tiongkok itu dituduh mencuri lebih dari 500 file rahasia terkait infrastruktur pusat data superkomputasi Google, yang menjadi tuan rumah dan melatih model AI besar.

Menurut dakwaan, Google mempekerjakan Ding pada tahun 2019 dan mulai mengunggah data sensitif dari jaringan Google ke akun Google pribadinya pada Mei 2022.

Unggahan ini terus berlanjut secara berkala selama setahun, di mana Ding menghabiskan beberapa bulan di Tiongkok bekerja untuk Beijing Rongshu Lianzhi Technology. Perusahaan teknologi startup ini mendekatinya dan menawarkan gaji bulanan sebesar $14.800 untuk menjadi Chief Technology Officer (CTO) mereka.

Ding juga diduga mendirikan perusahaannya sendiri, Shanghai Zhisuan Technology.

Jaksa Agung AS Merrick Garland menyatakan, "Departemen Kehakiman tidak akan mentolerir pencurian kecerdasan buatan dan teknologi canggih lainnya yang dapat membahayakan keamanan nasional kita." Direktur FBI Christopher Wray menambahkan bahwa tindakan yang diduga dilakukan oleh Ding "adalah ilustrasi terbaru dari sejauh mana" perusahaan di Tiongkok akan pergi "untuk mencuri inovasi Amerika."

Saat dunia berjuang dengan potensi transformasi AI, kontroversi insider di perusahaan teknologi mengancam untuk memperkeruh suasana. Kasus di Microsoft dan Google menyoroti pentingnya memupuk budaya inovasi yang bertanggung jawab, termasuk kepercayaan dan transparansi di dalam perusahaan itu sendiri.

AI adalah teknologi yang menuntut kepercayaan, dan perusahaan teknologi perlu memberikan lebih banyak jaminan. Hal ini belum selalu terjadi.

Misalnya, sekelompok lebih dari 100 ahli teknologi baru-baru ini menandatangani surat yang memohon kepada perusahaan AI untuk membuka pintu mereka untuk pengujian independen.

Mereka berpendapat bahwa perusahaan teknologi terlalu rahasia tentang produk mereka kecuali ketika tangan mereka terpaksa, seperti yang kita lihat ketika Google menarik model generasi gambar Gemini untuk membuat gambar yang aneh dan tidak akurat secara historis.

Saat ini, tampaknya kecepatan perkembangan AI yang luar biasa seringkali meninggalkan kepercayaan dan keselamatan di belakangnya.