OpenAI enggan untuk membagikan detektor teks ChatGPT yang akurat OpenAI Enggan Mengungka
OpenAI hesitant to release accurate ChatGPT text detector https://dailyai.com/2024/08/openai-hesitant-to-release-accurate-chatgpt-text-detector/

OpenAI Kembangkan Metode Watermark untuk Deteksi Teks yang Dihasilkan oleh ChatGPT

OpenAI mengumumkan bahwa mereka telah mengembangkan metode watermarking yang dapat mendeteksi teks yang ditulis oleh ChatGPT dengan akurasi tinggi. Namun, perusahaan masih mempertimbangkan apakah akan merilis fitur ini. Deteksi teks yang dihasilkan oleh AI semakin sulit seiring dengan kemajuan model bahasa besar (LLM) dalam menulis konten. Hal ini menjadi tantangan bagi pendidik untuk menentukan apakah siswa mereka menyelesaikan tugas sendiri atau menggunakan ChatGPT.

Dalam sebuah pembaruan di blog, OpenAI menyatakan bahwa metode watermarking yang mereka kembangkan sangat akurat dan tahan terhadap perubahan lokal seperti parafrase. Meskipun demikian, mereka mengakui bahwa metode ini tidak sepenuhnya sempurna. Menggunakan sistem terjemahan atau model LLM lain untuk mengubah kata-kata dapat menghilangkan efektivitas watermark. Selain itu, jika seseorang menggunakan model AI untuk menyisipkan karakter khusus seperti emoji di antara setiap kata dan kemudian menghapus karakter tersebut, watermark juga akan menjadi tidak berguna.

Namun, keterbatasan teknis bukanlah satu-satunya alasan mengapa fitur ini belum dirilis. OpenAI mencatat bahwa ChatGPT sangat berguna bagi penutur bahasa Inggris non-native. Penelitian mereka menunjukkan bahwa merilis alat watermarking dapat berdampak tidak proporsional pada kelompok ini dan menstigmatisasi penggunaan AI sebagai alat bantu menulis yang berguna.

Alternatif Metadata Teks

Para insinyur OpenAI sedang mencari cara untuk menggunakan metadata sebagai metode asal-usul teks alih-alih watermarking. Gambar yang dihasilkan oleh DALL-E 3 sudah memiliki metadata C2PA. OpenAI menyatakan bahwa masih terlalu dini untuk menilai seberapa efektif penambahan metadata pada teks yang dihasilkan oleh AI, tetapi ada beberapa potensi keuntungan. Salah satunya, metadata ditandatangani secara kriptografis sehingga tidak ada risiko positif palsu.

Namun, masalah dengan penggunaan metadata adalah bahwa metadata tersebut mudah dihapus. OpenAI belum menjelaskan bagaimana metadata akan diterapkan pada teks, tetapi menghapus metadata C2PA dari gambar yang dihasilkan AI sangatlah mudah. Beberapa platform media sosial menghapus metadata saat gambar diunggah, dan hanya dengan mengambil tangkapan layar, metadata C2PA dapat dihindari. Apakah cara serupa akan efektif dengan teks yang dihasilkan AI yang ditambahkan metadata?

Dampak pada Bisnis

Alasan lain mengapa OpenAI mungkin ragu untuk merilis alat ini adalah karena alat tersebut hanya mendeteksi teks yang dihasilkan oleh ChatGPT. Jika pengguna tahu bahwa konten yang dihasilkan AI mereka akan mudah terdeteksi, mereka akan cepat beralih ke platform lain. Laporan Wall Street Journal menyebutkan bahwa alat OpenAI sudah siap dirilis selama setahun dan memiliki efektivitas 99%. Dalam mempertimbangkan keputusan ini, karyawan OpenAI terombang-ambing antara komitmen transparansi dan keinginan untuk menarik serta mempertahankan pengguna.

Sebuah survei global yang dipesan oleh OpenAI menunjukkan bahwa ide alat deteksi AI didukung dengan rasio 4 banding 1. Namun, survei internal menemukan bahwa hampir sepertiga pengguna ChatGPT akan merasa terganggu oleh detektor teks AI. Pengguna ingin konten yang dihasilkan AI mudah dikenali, asalkan bukan konten yang mereka hasilkan sendiri.