Meta Gunakan AI untuk Cegah Pemalsuan Usia di Instagram

Meta tak lama lagi akan memperkenalkan alat kecerdasan buatan atau Artificial Intelligence (AI) terbaru yang disebut adult classifier, yang bertujuan untuk mencegah remaja yang mencoba memalsukan usia mereka di platform media sosial tersebut. Langkah ini merupakan bagian dari upaya Meta untuk memenuhi tuntutan regulator serta kekhawatiran orang tua terkait dampak media sosial terhadap kesehatan mental remaja. Penggunaan AI ini direncanakan untuk mulai diterapkan pada awal tahun 2025, dengan tujuan untuk memastikan bahwa remaja di bawah usia 18 tahun memiliki pengaturan privasi yang lebih ketat.

Allison Hartnett, Direktur Manajemen Produk untuk Pemuda dan Dampak Sosial di Meta, menjelaskan bahwa alat ini akan menganalisis sejumlah indikator yang dapat menunjukkan usia pengguna yang sebenarnya. Indikator tersebut antara lain meliputi akun yang diikuti oleh pengguna serta jenis konten yang sering mereka lihat atau interaksikan. Dengan demikian, meskipun seorang pengguna mencantumkan usia yang lebih tua pada profil mereka, jika alat AI ini mendeteksi adanya tanda-tanda bahwa mereka sebenarnya masih di bawah usia 18 tahun, akun mereka akan otomatis dipindahkan ke kategori remaja dengan pengaturan privasi yang lebih ketat.

Salah satu langkah perlindungan yang akan diterapkan adalah akun-akun tersebut secara otomatis diubah menjadi mode privat, yang berarti hanya orang-orang yang disetujui oleh pengguna yang dapat melihat konten mereka. Selain itu, kemampuan untuk mengirim pesan kepada orang yang tidak dikenal juga akan dibatasi. Bagi remaja yang mencoba mengubah usia mereka secara manual, Meta akan meminta verifikasi identitas melalui unggahan ID resmi atau video selfie yang diverifikasi menggunakan Yoti, sebuah teknologi verifikasi usia yang sebelumnya telah diterapkan pada platform Facebook Dating.

Langkah ini pertama kali diumumkan pada bulan September, bersamaan dengan peluncuran akun remaja di Instagram. Dalam akun-akun remaja tersebut, Meta telah menetapkan pengaturan privasi yang paling ketat secara otomatis untuk pengguna yang berusia di bawah 16 tahun. Tujuannya adalah untuk memberikan perlindungan yang lebih kuat terhadap potensi bahaya online, seperti konten yang tidak pantas atau interaksi yang tidak diinginkan dengan orang asing di platform media sosial.

Meskipun Meta belum mengungkapkan secara rinci tingkat akurasi dari alat adult classifier ini, perusahaan memberikan jaminan bahwa pengguna yang merasa dirinya telah salah diidentifikasi oleh sistem akan memiliki kesempatan untuk mengajukan banding. Proses banding ini akan memungkinkan pengguna untuk membuktikan usia mereka yang sebenarnya jika mereka merasa telah diberlakukan tidak adil oleh sistem. Selain itu, Meta juga akan memberikan perhatian khusus terhadap pengguna yang mencoba membuat akun baru dengan alamat email yang sebelumnya sudah terkait dengan akun yang ada, tetapi dengan tanggal lahir yang berbeda.

Dengan penerapan alat adult classifier ini, Meta berharap dapat meningkatkan keamanan dan kesejahteraan remaja yang menggunakan platform Instagram. Langkah ini menunjukkan komitmen perusahaan untuk terus beradaptasi dengan kebutuhan dan tantangan dalam melindungi pengguna muda dari risiko yang ada di dunia maya. Di tengah perhatian global terhadap perlindungan anak-anak dan remaja di dunia digital, Meta berupaya memberikan pengalaman yang lebih aman dan nyaman bagi penggunanya, serta menghadapi tantangan yang semakin kompleks terkait dengan penggunaan media sosial oleh anak-anak dan remaja.

Dengan perubahan ini, Meta berharap dapat menjaga keseimbangan antara kebebasan pengguna dan perlindungan terhadap anak-anak dan remaja dari potensi bahaya yang ada di dunia maya.