Cegah Penyalahgunaan, Google Kembangkan Alat Deteksi Konten AI

Google kini sedang mengembangkan teknologi canggih yang dapat mendeteksi dan menandai konten hasil artificial intelligence (AI), di tengah semakin maraknya penggunaan konten AI yang meresahkan. Konten berbasis AI, termasuk gambar dan video, kian beredar luas di internet dan menimbulkan kekhawatiran karena dapat mengecoh banyak orang yang tidak menyadari bahwa konten tersebut tidak asli.

Salah satu isu serius terkait konten AI terjadi di Korea Selatan, di mana kasus pornografi hasil deepfake, yang merupakan bentuk manipulasi menggunakan AI, menjadi perhatian publik. Deepfake adalah teknologi yang memungkinkan seseorang memalsukan wajah atau suara orang lain dalam video dengan tingkat akurasi tinggi, sehingga sulit dibedakan dari aslinya. Hal ini memunculkan banyak masalah, terutama di kalangan anak muda.

Berdasarkan laporan Badan Kepolisian Nasional Korea Selatan, dari Januari hingga Juli 2024, tercatat ada 297 kasus kejahatan pornografi deepfake. Yang mengejutkan, dari 178 tersangka yang diidentifikasi, sebanyak 113 di antaranya adalah remaja, termasuk anak di bawah umur. Kasus-kasus ini semakin mencuat setelah ditemukan beberapa ruang obrolan di aplikasi Telegram yang digunakan untuk membuat dan mendistribusikan materi pornografi deepfake. Kejadian ini memicu ketakutan dan kemarahan di kalangan masyarakat Korea Selatan.

Sebagai respons terhadap situasi tersebut dan meningkatnya kekhawatiran terhadap penyalahgunaan teknologi AI, Google bekerja sama dengan Coalition for Content Provenance and Authenticity (C2PA) sejak awal tahun 2024 untuk mengembangkan alat yang mampu mendeteksi konten buatan AI. Teknologi ini diharapkan dapat membantu pengguna mengenali asal-usul konten gambar atau video yang mereka temui di internet, serta mengetahui apakah konten tersebut telah dimanipulasi oleh AI.

Google akan mengintegrasikan fitur ini ke dalam Content Credentials, sebuah ekstensi yang memungkinkan pelacakan asal-usul gambar dan video. Dalam beberapa bulan mendatang, fitur ini akan diterapkan pada berbagai produk utama Google, termasuk Google Images, Lens, dan Circle to Search. Saat fitur ini sudah beroperasi, pengguna akan lebih mudah mendeteksi konten yang telah diedit atau dihasilkan oleh AI melalui opsi “About this image” pada gambar yang memiliki metadata C2PA.

Namun, sistem pendeteksian ini tidak sempurna. Pengoperasiannya bergantung pada penggunaan sistem penandaan C2PA oleh perusahaan yang terlibat, seperti produsen kamera atau alat AI. Jika metadata dihapus dari suatu foto atau video, maka deteksi terhadap manipulasi AI menjadi lebih sulit dilakukan. Meskipun demikian, pengembangan ini merupakan langkah besar dalam meningkatkan transparansi konten digital.

Selain itu, Google juga sedang mempelajari cara mendeteksi detail dalam video yang diunggah ke platform YouTube. Teknologi ini bertujuan untuk melacak kapan dan dimana video direkam serta memastikan keaslian kontennya. Dengan demikian, diharapkan penyalahgunaan AI untuk memanipulasi video dapat diminimalkan.

Tidak hanya Google, perusahaan besar lainnya juga turut mengambil langkah dalam mengatasi permasalahan konten AI. Meta, yang menaungi Facebook, Instagram, dan Threads, saat ini sedang berada di tengah perdebatan mengenai cara terbaik untuk menandai konten yang dihasilkan atau diedit menggunakan AI di platform mereka. Baru-baru ini, Meta mengubah kebijakan terkait penandaan konten AI. Label "AI info" yang sebelumnya ditempatkan di tengah gambar hasil editan AI, kini dipindahkan ke menu postingan, sehingga kurang terlihat oleh pengguna. Keputusan ini menimbulkan kekhawatiran bahwa pengguna mungkin tidak akan menyadari jika mereka berinteraksi dengan konten yang sudah dimanipulasi oleh AI.

Selain langkah-langkah yang diambil Google dan Meta, implementasi teknologi pendeteksi AI juga diperkirakan akan meluas ke sektor iklan. Google berencana menggunakan metadata C2PA dalam sistem iklan mereka, meskipun detail lebih lanjut mengenai rencana ini belum banyak diungkapkan. Penggunaan C2PA dalam iklan diharapkan dapat membantu menginformasikan dan menegakkan kebijakan Google terkait transparansi konten.

Perkembangan ini menjadi bagian dari upaya lebih luas dalam mengatasi dampak negatif dari penyalahgunaan teknologi AI, terutama dalam menciptakan konten yang menipu. Dengan semakin majunya teknologi AI, penting bagi perusahaan teknologi besar seperti Google dan Meta untuk mengembangkan sistem yang dapat memberikan transparansi dan mencegah penyalahgunaan. Tantangan utama yang masih dihadapi adalah memastikan bahwa sistem ini dapat diterapkan secara konsisten dan efektif, terutama di tengah maraknya konten AI yang sulit dibedakan dari yang asli.

Dengan perkembangan teknologi deteksi ini, harapannya adalah pengguna internet akan semakin terlindungi dari konten yang tidak autentik dan meresahkan, serta lebih bijak dalam berinteraksi dengan berbagai konten yang mereka temukan di dunia maya.