OpenAI Evaluasi Rilis Alat Deteksi Tulisan dari ChatGPT

OpenAI, perusahaan teknologi Artificial Intelligence (AI), masih mempertimbangkan keputusan untuk merilis alat pendeteksi tulisan yang dihasilkan oleh ChatGPT. Dipimpin oleh Sam Altman, OpenAI menyatakan bahwa mereka mengambil pendekatan penuh kehati-hatian karena kompleksitas yang terlibat serta dampak yang mungkin terjadi di luar OpenAI jika alat ini dirilis saat ini.

Penetapan alat pendeteksi tulisan AI merupakan masalah sensitif, mengingat potensi penyalahgunaan teknologi ini di berbagai sektor seperti pendidikan dan politik. Oleh karena itu, perusahaan merasa perlu untuk bekerja secara teliti dan mendalam sebelum mengambil langkah selanjutnya. Dikutip dari TechCrunch, OpenAI sedang meneliti metode pemberian watermark pada teks yang dibuat oleh AI, yang terlihat menjanjikan.

Metode ini diharapkan dapat memberikan lapisan keamanan tambahan serta membantu dalam identifikasi sumber teks, namun juga membawa tantangan baru, termasuk ketidakpastian apakah watermark tersebut dapat dengan mudah dihapus atau dimanipulasi oleh individu dengan niat buruk. OpenAI berkomitmen untuk tidak hanya memikirkan teknologi itu sendiri, tetapi juga mempertimbangkan implikasi etis serta keberlanjutan dampaknya dalam masyarakat.

Seorang juru bicara OpenAI menambahkan bahwa metode watermark tersebut memiliki risiko penting yang sedang dipertimbangkan, termasuk kerentanan terhadap pengelakan oleh pelaku jahat dan potensi dampak tidak proporsional pada kelompok seperti penutur non-Inggris. Pendekatan ini diambil karena upaya sebelumnya dalam mendeteksi teks yang dihasilkan AI oleh industri sebagian besar dinilai tidak efektif, menunjukkan bahwa menciptakan sistem deteksi yang dapat diandalkan masih merupakan tantangan yang kompleks.

Pada tahun 2023, OpenAI pernah merilis detektor teks AI yang akhirnya ditutup karena tingkat akurasinya yang rendah, menyoroti betapa sulitnya menciptakan teknologi yang tidak hanya akurat tetapi juga adil dalam penerapannya di seluruh dunia. Dengan watermark pada teks, OpenAI berencana fokus hanya pada pendeteksian tulisan dari ChatGPT, bukan dari model perusahaan lain. Hal ini akan dilakukan dengan membuat perubahan kecil pada cara ChatGPT memilih kata, yang pada dasarnya menciptakan tanda air tak terlihat dalam tulisan yang kemudian dapat dideteksi oleh alat terpisah.

Dalam unggahan blog OpenAI pada Mei 2024, perusahaan mengungkap beberapa hasil dari penelitiannya seputar pendeteksian konten yang dihasilkan AI. Metode pemberian watermark pada teks yang diciptakan AI terbukti sangat akurat bahkan efektif terhadap bentuk-bentuk teks yang rumit seperti parafrase, yang selama ini menjadi tantangan besar dalam pemrosesan bahasa alami. Dengan berfokus pada pengembangan teknologinya sendiri, OpenAI berharap meningkatkan keandalan sistem deteksi dan berkontribusi pada diskusi lebih luas mengenai transparansi dan tanggung jawab dalam penggunaan AI di masyarakat.

Namun, penerapan watermark pada teks yang dihasilkan AI dinilai kurang valid untuk diterapkan secara global karena memiliki banyak kerentanan signifikan. Beberapa tantangan muncul dari variasi cara teks dihasilkan. Misalnya, teks yang dikerjakan menggunakan penerjemah mesin mungkin tidak dapat dikenali dengan mudah.

Selain itu, penggunaan model generatif yang berbeda untuk mengubah kata-kata dalam teks asli dapat menciptakan teks baru yang sepenuhnya tidak terdeteksi oleh sistem watermark yang ada. Ada juga praktik yang semakin populer di kalangan pengguna, yaitu menyisipkan karakter khusus di antara setiap kata, yang dapat menyebabkan pengaburan deteksi pada sistem watermark. Praktik semacam ini menunjukkan bahwa jika watermark diterapkan secara global, risiko adanya kecurangan dari pihak-pihak yang tidak bertanggung jawab menjadi sangat tinggi, sehingga merusak integritas sistem tersebut.

Penelitian yang dilakukan juga mengangkat isu sosial dan etis penting. Pemberian watermark ini berpotensi menimbulkan stigma buruk, menganggap penggunaan AI sebagai alat bantu menulis sebagai upaya untuk menipu atau mengurangi kewajaran dalam proses kreatif. Hal ini dapat menciptakan persepsi negatif terhadap teknologi AI, terutama di kalangan penutur bahasa non-Inggris yang mungkin sangat bergantung pada bantuan teknologi untuk mengekspresikan ide dan gagasan mereka.

Dengan stigma ini, mereka mungkin merasa terpinggirkan atau dianggap tidak dapat menghasilkan karya orisinal, sementara sebenarnya penggunaan AI dapat menjadi alat yang berharga dalam mendukung kreativitas dan ekspresi individu. Oleh karena itu, penting bagi para peneliti dan pemangku kepentingan untuk mempertimbangkan implikasi sosial dari pengembangan teknologi semacam ini, sehingga dapat menemukan solusi yang tidak hanya efektif dalam mendeteksi konten AI, tetapi juga adil dan inklusif bagi semua pengguna.