Peneliti UI Kembangkan AI Pendeteksi Ujaran Kebencian di Twitter

Dua peneliti dari Fakultas Ilmu Komputer Universitas Indonesia (Fasilkom UI) Muhammad Okky Ibrohim dan Indra Budi mengembangkan pendeteksi ujaran kebencian dan bahasa kasar yang dicuitkan netizen Indonesia di Twitter. Pendeteksi ini dikembangkan dengan memanfaatkan teknologi kecerdasan artifisial atau artificial intelligence.

Penelitian yang dilakukan ini pun disebut kelak dapat dimanfaatkan oleh Direktorat Tindak Pidana Siber Bareskrim Polri untuk membantu melakukan investigasi kejahatan siber di Indonesia. AI membantu mendeteksi ujaran kebencian yang bisa dipidana.

Riset yang dilakukan kedua peneliti dari Fasilkom UI ini menunjukkan bahwa kombinasi fitur Word Unigram, Random Forest Decision Tree (RFDT), dan Label Power-set (LP) mampu melakukan deteksi terhadap bahasa kasar dan ujaran kebencian di Twitter dengan tingkat akurasi 77,36 persen.

Memanfaatkan Twitter Search API, kombinasi fitur telah mengumpulkan sebanyak 13.169 cuitan. Berdasarkan jumlah cuitan tersebut, tercatat 7.608 cuitan di antaranya bukan merupakan ujaran kebencian, sedangkan 5.561 merupakan ujaran kebencian.

Okky mengatakan, dalam riset ini ujaran kebencian dikategorikan menjadi lima kategori, yaitu agama, ras, fisik, gender atau orientasi seksual dan umpatan lainnya. Pendeteksian yang dilakukan juga bisa mengklasifikasikan target, kategori, hingga level ujaran kebencian itu sendiri.

Level ujaran kebencian pun dibagi menjadi tiga. Pertama, weak hate speech, kata umpatan yang ditujukan pada individu tanpa unsur provokasi. Kedua, moderate hate speech yang ditujukan pada kelompok tanpa provokasi. Ketiga adalah strong hate speech, yaitu level umpatan yang memprovokasi dan berpotensi memancing konflik.

“Penelitian kami berangkat dari maraknya ujaran kebencian dan penggunaan bahasa kasar pada media sosial, khususnya Twitter, yang sangat berpotensi menimbulkan konflik antarindividu maupun kelompok,” tutur Okky, Senin (30/11/2020).

Okky pun menambahkan, tidak jarang ujaran kebencian untuk menyeran seseorang atau pun kelompok menggunakan bahasa yang kasar. Pemanfaatan AI untuk mendeteksi ujaran kebencian ini pun diharapkan bisa membantu investigasi kejahatan siber.

“Saat ini, kami terus berupaya mengembangkan pemanfaatan AI untuk deteksi hate speech. Kami berharap, dengan adanya alat bantu teknologi, maka akan semakin mempermudah tim melakukan investigasi kejahatan siber,” imbuh Okky.

Pada penelitian ini, Okky mengatakan bahwa baik definisi yang digunakan maupun panduan anotasi dilakukan berdasarkan buku bahasa sosial dan handbook ujaran kebencian, lalu divalidasi oleh ahli dengan wawancara dan diskusi kelompok Bersama staf Direktorat Tindak Pidana Siber Badan Reserse dan Kriminal Kepolisian Negara Republik Indonesia (Bareskrim Polri).

Selain berdiskusi dengan staf Bareskrim Polri, para peneliti pun juga didampingi peran seorang linguis yang akan membantu untuk memvalidasi definisi ujaran kebencian secara tepat sehingga investgasi kejahatan siber bisa dilakukan dengan baik.