YouTube Meluncurkan AI Deteksi Deepfake Suara Dan Wajah

Pada hari Kamis, 5 September 2024, YouTube mengumumkan peluncuran serangkaian alat deteksi baru yang menggunakan teknologi artificial intelligence (AI) untuk melindungi konten kreator seperti selebritas, aktor, musisi, dan atlet dari penyalahgunaan gambar mereka. Teknologi ini dirancang untuk mengatasi masalah penggunaan gambar dan suara yang disalin dan digunakan dalam video atau konten lain tanpa izin pemiliknya, fenomena yang dikenal sebagai deepfake dalam dunia digital.

Dalam pengumumannya, YouTube menekankan bahwa salah satu inovasi utama dalam teknologi deteksi ini adalah perluasan dan pengembangan sistem Content ID yang sudah ada. Sistem Content ID saat ini digunakan untuk mengidentifikasi materi yang dilindungi hak cipta di platform YouTube. Sistem ini akan ditingkatkan dengan integrasi teknologi baru yang mampu mendeteksi suara nyanyian sintetis yang dihasilkan oleh AI. Ini merupakan langkah penting mengingat semakin canggihnya teknologi deepfake yang dapat mensimulasikan suara dengan sangat realistis.

Selain itu, YouTube juga akan mengembangkan teknologi deteksi tambahan yang dirancang untuk mengenali ketika wajah seseorang yang disimulasikan atau dipalsukan menggunakan AI. Inovasi ini bertujuan untuk memberikan perlindungan lebih kepada individu yang wajah atau suaranya digunakan tanpa izin dalam konten digital. Teknologi deteksi wajah dan suara ini diharapkan dapat membantu tokoh-tokoh terkenal seperti konten kreator, aktor, musisi, dan atlet untuk mendeteksi dan mengelola konten yang menggunakan wajah atau suara mereka yang dipalsukan oleh AI.

Masalah terkait penggunaan konten kreator dalam model AI sebenarnya merupakan isu lama namun meningkat signifikan dalam beberapa tahun terakhir. Banyak kreator telah mengeluhkan bahwa perusahaan-perusahaan besar seperti Apple, Nvidia, Anthropic, OpenAI, dan Google  menggunakan materi mereka tanpa izin atau kompensasi yang layak. Menanggapi masalah ini, YouTube telah menjalin kerjasama dengan Universal Music Group (UMG) untuk mengembangkan solusi yang lebih baik. Salah satu upaya mereka adalah memperluas sistem Content ID agar dapat mengidentifikasi pemegang hak yang berhak mendapatkan kompensasi ketika karya mereka digunakan dalam musik AI. Sistem Content ID saat ini memproses miliaran klaim setiap tahun dan menghasilkan pendapatan signifikan bagi kreator dan artis.

Dengan teknologi deteksi yang sedang dikembangkan ini, YouTube berharap dapat memberikan solusi yang efektif untuk melindungi citra dan hak-hak individu dari penyalahgunaan AI. Teknologi ini bertujuan untuk mencegah penyalahgunaan gambar mereka untuk tujuan yang menyesatkan, seperti mendukung produk atau layanan yang tidak mereka setujui, atau menyebarkan informasi yang salah. Hal ini penting untuk memastikan bahwa konten yang menggunakan wajah atau suara mereka diperlakukan secara adil dan sesuai dengan izin yang diberikan.

Amjad Hanif, Wakil Presiden Produk Kreator YouTube, menjelaskan bahwa dengan kemajuan teknologi AI, YouTube berkomitmen untuk mendukung kreativitas manusia dan bukan menggantikannya. Hanif menegaskan, “Seiring dengan perkembangan AI, kami percaya bahwa teknologi ini harus meningkatkan kreativitas manusia, bukan menggantikannya. Kami berkomitmen untuk bekerja dengan mitra kami untuk memastikan bahwa kemajuan di masa depan memperkuat suara mereka, dan kami akan terus mengembangkan pengaman untuk menangani kekhawatiran serta mencapai tujuan bersama kami.”

Saat ini, YouTube belum mengumumkan kapan tepatnya sistem deteksi ini akan siap untuk diuji. Namun, mereka telah menyatakan bahwa pengembangan alat ini sedang berlangsung aktif. Teknologi deteksi wajah dan suara ini diharapkan dapat memberikan perlindungan lebih baik kepada individu dari berbagai sektor termasuk konten kreator, aktor, musisi, dan atlet untuk melindungi citra mereka. Dengan adanya alat ini, mereka akan memiliki kekuatan lebih untuk mengatasi versi deepfake dari kemiripan mereka dan memastikan bahwa konten yang menggunakan wajah atau suara mereka diperlakukan secara adil dan sesuai dengan izin yang diberikan.

Dengan inovasi ini, YouTube berusaha untuk memimpin dalam perlindungan hak cipta dan keamanan digital di era teknologi AI yang semakin maju. Perusahaan berharap langkah ini akan membantu menciptakan lingkungan online yang lebih aman dan adil bagi semua kreator, serta memberikan alat yang diperlukan untuk menangani tantangan yang dihadapi di dunia digital saat ini.