Fitur baru ChatGPT dapat membedakan teks yang ditulis oleh AI

Alat tersebut akan menandai konten yang ditulis oleh produk OpenAI serta perangkat lunak pembuat AI lainnya. Namun, perusahaan mengatakan “itu masih memiliki sejumlah keterbatasan – jadi itu harus digunakan sebagai pelengkap metode lain untuk menentukan sumber teks alih-alih menjadi alat pengambilan keputusan utama.”

Dalam evaluasi perusahaan yang didukung Microsoft Corp., hanya 26% dari teks yang ditulis AI yang diidentifikasi dengan benar. Itu juga menandai 9% dari teks yang ditulis manusia sebagai disusun oleh AI.

Alat yang disebut classifier, akan tersedia sebagai aplikasi web, bersama dengan beberapa sumber untuk guru, kata perusahaan itu dalam sebuah pernyataan Selasa. Popularitas ChatGPT telah menimbulkan kekhawatiran kepenulisan karena siswa dan pekerja menggunakan bot untuk membuat laporan dan konten dan menyebarkannya sebagai milik mereka. Ini juga menimbulkan kekhawatiran tentang kemudahan kampanye informasi yang salah yang dibuat secara otomatis.

“Meskipun tidak mungkin untuk secara andal mendeteksi semua teks yang ditulis oleh AI, kami percaya pengklasifikasi yang baik dapat menginformasikan mitigasi untuk klaim palsu bahwa teks yang dihasilkan oleh AI ditulis oleh manusia: misalnya, menjalankan kampanye misinformasi otomatis, menggunakan alat AI untuk ketidakjujuran akademik, dan memposisikan chatbot AI sebagai manusia,” kata OpenAI dalam sebuah posting blog.

Sejak ChatGPT dirilis pada bulan November, para guru khususnya telah berjuang keras untuk mengatasinya. Siswa dengan cepat menyadari bahwa alat tersebut dapat menghasilkan makalah dan meringkas materi, meskipun kadang-kadang memasukkan kesalahan yang mencolok.

Awal bulan ini, seorang mahasiswa Universitas Princeton bernama Edward Tian merilis sebuah aplikasi bernama GPTZero yang katanya diprogram selama Tahun Baru untuk mendeteksi tulisan AI. Ethan Mollick, seorang profesor di Sekolah Wharton Universitas Pennsylvania mengembangkan kebijakan AI untuk kelasnya, yang memungkinkan siswa untuk menggunakan ChatGPT selama mereka memberikan deskripsi tentang kegunaan program tersebut dan bagaimana mereka menggunakannya.

Sekolah umum Kota New York telah melarang penggunaan ChatGPT dan begitu pula Konferensi Internasional tentang Pembelajaran Mesin, kecuali dalam kasus tertentu. Pernyataan etika konferensi mencatat bahwa “makalah yang menyertakan teks yang dihasilkan dari model bahasa berskala besar (LLM) seperti ChatGPT dilarang kecuali teks yang dihasilkan ini disajikan sebagai bagian dari analisis eksperimental makalah.”

Cerita ini telah diterbitkan dari umpan agen kawat tanpa modifikasi teks. Hanya judulnya saja yang diubah.