Perseteruan Dalam Negeri Terkait Insider AI Membuat Microsoft dan Google Berada dalam SorotanJudul:
AI-related insider controversies hit both Microsoft and Google https://dailyai.com/2024/03/ai-related-insider-controversies-hit-both-microsoft-and-google/

Keterangan Gambar : Perseteruan Dalam N

Minggu ini, dua situasi insider yang melibatkan raksasa teknologi Microsoft dan Google menimbulkan pertanyaan tentang pengembangan sistem AI yang bertanggung jawab dan manajemen kekayaan intelektual.

Di Microsoft, Shane Jones, seorang manajer teknik perangkat lunak utama dengan enam tahun pengalaman, telah secara independen menguji generator gambar AI Copilot Designer dalam waktu luangnya.

Jones mengatakan kepada CNBC bahwa ia sangat terganggu oleh gambar-gambar kekerasan, seksual, dan berhak cipta yang mampu dihasilkan oleh alat tersebut. "Ini adalah momen yang menggugah kesadaran," kata Jones. "Ini adalah saat pertama saya menyadari, wow ini benar-benar bukan model yang aman."

Sejak November 2022, Jones telah aktif menguji produk untuk kerentanannya, praktik yang dikenal sebagai red-teaming.

Dia menemukan bahwa Copilot Designer dapat membuat gambar yang menggambarkan "setan dan monster bersama dengan terminologi terkait hak aborsi, remaja dengan senjata serbu, gambar-gambar yang mengeseksualisasikan wanita dalam adegan kekerasan, dan konsumsi minuman keras dan obat-obatan oleh anak di bawah umur."

Meskipun melaporkan temuannya kepada Microsoft pada bulan Desember, Jones mengatakan perusahaan enggan untuk menarik produk dari pasar.

Copilot Microsoft telah berperilaku aneh pada beberapa kesempatan, termasuk mengadopsi "mode dewa" yang membuatnya bersumpah untuk mengejar dominasi dunia.

Dalam surat yang ditujukan kepada Ketua Federal Trade Commission Lina Khan, Jones menulis, "Selama tiga bulan terakhir, saya telah secara berulang kali mendorong Microsoft untuk menarik Copilot Designer dari penggunaan publik sampai perlindungan yang lebih baik dapat diterapkan."

Dia menambahkan bahwa karena Microsoft telah "menolak rekomendasi itu," dia mendorong perusahaan untuk menambahkan pengungkapan yang jelas pada produk dan mengubah peringkatnya di aplikasi Android Google untuk menunjukkan bahwa itu hanya cocok untuk penonton dewasa.

Copilot Designer dilaporkan mudah dipengaruhi untuk melewati pagar-pagar pengamanannya dan bertanggung jawab atas gambar-gambar eksplisit terkenal dari Taylor Swift yang beredar ke jutaan orang di media sosial.

Seperti yang diargumentasikan Jones, kemampuan sistem AI untuk menghasilkan gambar yang mengganggu dan berpotensi berbahaya menimbulkan pertanyaan serius tentang efektivitas fitur keamanan dan seberapa mudah mereka untuk disusupi.