Watermarking teks yang diusulkan akan fokus pada deteksi tulisan dari ChatGPT dengan membuat perubahan kecil pada cara ChatGPT memilih kata.
OpenAI, perusahaan di balik pengembangan ChatGPT, mengungkapkan bahwa mereka sedang meneliti alat watermarking teks yang berpotensi mendeteksi siswa yang menggunakan ChatGPT untuk menulis tugas mereka. Meskipun demikian, rencana peluncuran alat ini masih dipertimbangkan dengan hati-hati.
Menurut laporan dari The Wall Street Journal (5/8), perusahaan ini belum memutuskan apakah akan merilis alat tersebut. Dalam pernyataan yang diberikan kepada TechCrunch, seorang juru bicara OpenAI mengonfirmasi bahwa perusahaan sedang meneliti metode watermarking teks seperti yang dijelaskan dalam laporan tersebut.
“Metode watermarking teks yang kami kembangkan secara teknis menjanjikan, tetapi memiliki risiko penting yang sedang kami pertimbangkan saat meneliti alternatif, termasuk kerentanan terhadap penyalahgunaan oleh pelaku jahat dan potensi dampak yang tidak proporsional terhadap kelompok seperti penutur non-Inggris,” ujar juru bicara OpenAI.
Pendekatan watermarking teks ini berbeda dari upaya sebelumnya untuk mendeteksi teks yang dihasilkan AI, yang sebagian besar tidak efektif. Bahkan, OpenAI sendiri menutup alat pendeteksi teks AI sebelumnya tahun lalu karena tingkat akurasi yang rendah.
Watermarking teks yang diusulkan akan fokus pada deteksi tulisan dari ChatGPT dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan watermark tak terlihat dalam teks yang dihasilkan. Watermark ini dapat dideteksi oleh alat terpisah yang dikembangkan oleh OpenAI.
Namun, OpenAI mencatat bahwa metode ini masih memiliki kelemahan. Dalam pembaruan pada blog perusahaan bulan Mei lalu, disebutkan bahwa watermarking teks terbukti sangat akurat dan efektif terhadap manipulasi lokal seperti parafrase, tetapi kurang tahan terhadap manipulasi global seperti menggunakan sistem terjemahan, merubah kata dengan model generatif lain, atau menyisipkan karakter khusus di antara kata dan kemudian menghapus karakter tersebut.
“Metode ini mudah diakali oleh pelaku jahat,” tulis OpenAI dalam pembaruan blog tersebut. Selain itu, ada kekhawatiran bahwa watermarking teks dapat menstigmatisasi penggunaan AI sebagai alat penulisan yang berguna bagi penutur non-Inggris.
Rencana rilis alat ini menunjukkan kompleksitas yang dihadapi dalam mengembangkan teknologi yang bertujuan mendeteksi teks yang dihasilkan oleh AI, serta dampaknya pada ekosistem yang lebih luas.
