AI Governance dan Audit, Fondasi Penting di Era AI Otonom

Perkembangan artificial intelligence (AI) tidak lagi sekadar wacana teknologi masa depan. AI kini telah menjadi bagian nyata dari strategi bisnis, operasional organisasi, hingga pengambilan keputusan strategis di berbagai sektor industri. Namun, di balik potensi besar tersebut, muncul tantangan serius terkait tata kelola, risiko, dan akuntabilitas penggunaan AI.

Okky Putra Barus, M.M., M.T.I, Associate Professor bidang MIS Universitas Pelita Harapan, menekankan bahwa kesuksesan adopsi kecerdasan buatan tidak semata-mata ditentukan oleh seberapa canggih teknologi yang digunakan. Menurutnya, kekuatan tata kelola data dan mekanisme audit yang solid justru menjadi faktor penentu agar AI mampu memberikan nilai nyata sekaligus meminimalkan risiko. Pandangan tersebut ia sampaikan dalam forum Data & AI Conference 2026, yang mempertemelukan para pemimpin bisnis dan teknologi untuk membahas masa depan AI yang aman dan bertanggung jawab.

Menurut Okky, organisasi yang mengadopsi AI tanpa kerangka governance yang jelas ibarat “mengemudikan mesin jet tanpa sistem navigasi”.

 
Evolusi AI: Dari Sistem Informasi ke Agentic AI

Dalam paparannya, Okky menggambarkan evolusi pemanfaatan AI dalam beberapa tahun terakhir. Pada 2025, pemanfaatan AI masih banyak berfokus pada integrasi sistem informasi (SI) dan generative AI untuk mendukung sektor industri tertentu, termasuk pertanian dan peternakan seperti poultry farmer.

Namun pada 2026, lanskap tersebut berubah drastis. Organisasi mulai memadukan Sistem Informasi, Agentic AI, AIoT (Artificial Intelligence of Things), serta domain industri secara lebih menyeluruh. Perubahan ini menuntut pendekatan baru dalam tata kelola, audit, dan manajemen risiko.

“AI hari ini bukan lagi sekadar alat bantu. Ia sudah menjadi agen yang mampu mengambil keputusan secara otonom. Di sinilah pentingnya AI Governance & Audit untuk memastikan nilai yang aman dan berkelanjutan,” ujar Okky.

Konsep yang ia sebut sebagai Driving Secure Value Creation menjadi benang merah diskusi, yaitu bagaimana AI dapat mendorong inovasi dan efisiensi tanpa mengorbankan etika, keamanan, dan kepatuhan.

 
Manfaat Nyata AI: Inovasi, Layanan, dan Analitik Data

Okky menekankan bahwa AI mampu memberikan manfaat nyata bagi organisasi, mulai dari peningkatan efisiensi, inovasi, hingga penciptaan keunggulan kompetitif jangka panjang. Namun, manfaat tersebut hanya dapat dicapai jika AI diadopsi secara aman dan bertanggung jawab.

Beberapa manfaat utama AI bagi perusahaan meliputi peningkatan inovasi, pengayaan analisis data, perbaikan layanan pelanggan, serta otomasi proses bisnis. Untuk memperjelas, Okky memaparkan sejumlah studi kasus global.

Selain itu, Okky juga meberikan sejumlah studi kasus global yang menunjukkan manfaat konkret AI bagi perusahaan, sekaligus menegaskan bahwa keberhasilan tersebut selalu ditopang oleh tata kelola yang matang.

• Inovasi dan Kepercayaan Konsumen: L’Oréal
  Studi kasus pertama datang dari L’Oréal, perusahaan kosmetik global yang memanfaatkan AI untuk membangun kepercayaan sekaligus meningkatkan konversi penjualan.

  Melalui solusi seperti ModiFace dan SkinConsult AI, L’Oréal menghadirkan fitur virtual try-on dan diagnosa kulit berbasis foto. Teknologi ini memungkinkan konsumen mendapatkan rekomendasi produk yang dipersonalisasi secara instan dan dalam skala besar.

  Hasilnya, lebih dari satu miliar sesi virtual try-on tercatat, dengan tingkat konversi penjualan meningkat hingga tiga kali lipat. Selain itu, lebih dari 20 juta diagnosa kulit personal berhasil dilakukan.

  “Ini contoh nyata bagaimana AI mendorong inovasi produk dan model bisnis yang sulit ditiru kompetitor,” kata Okky.

• Layanan Pelanggan sebagai Kanal Pendapatan: Domino’s
  Studi kasus kedua menyoroti Domino’s, yang memanfaatkan conversational AI sebagai saluran pendapatan langsung.Melalui asisten suara bernama Dom, pelanggan dapat memesan pizza menggunakan perintah suara melalui ponsel atau perangkat pintar lainnya. Pendekatan ini menghadirkan pengalaman pemesanan yang minim hambatan dan meningkatkan volume transaksi.

  Selain meningkatkan efisiensi, penggunaan AI ini juga memperkuat citra Domino’s sebagai merek yang adaptif terhadap teknologi.

  “AI mampu mempersonalisasi interaksi pelanggan sekaligus mengotomatisasi layanan, yang pada akhirnya meningkatkan loyalitas dan kepuasan,” jelas Okky.

• Analitik Prediktif untuk Meningkatkan Frekuensi Pembelian: Starbucks
  Contoh ketiga datang dari Starbucks. Melalui platform AI bernama Deep Brew, Starbucks menganalisis data historis pelanggan, waktu kunjungan, cuaca, hingga lokasi untuk memprediksi pesanan yang paling mungkin dilakukan.

  Pendekatan prediktif ini berhasil meningkatkan frekuensi kunjungan dan nilai belanja pelanggan. Aplikasi Starbucks pun berubah menjadi kebiasaan harian bagi jutaan pengguna.

  “AI memungkinkan pengambilan keputusan berbasis data secara real-time, sehingga strategi bisnis lebih selaras dengan kebutuhan pasar,” ujar Okky.

 
Risiko AI: Dari Bias hingga Kepatuhan Regulasi

Meski menawarkan manfaat besar, Okky mengingatkan bahwa AI juga membawa risiko signifikan. Beberapa di antaranya adalah bias dan diskriminasi akibat data pelatihan yang tidak seimbang, dilema etika, manipulasi algoritma, hingga kurangnya transparansi dalam sistem black box.

Selain itu, penggunaan AI yang semakin otonom berpotensi menimbulkan masalah akuntabilitas, risiko keamanan dan privasi, hingga ancaman kepatuhan akibat regulasi yang terus berkembang dan kerap ambigu.

“Tanpa tata kelola yang kuat, AI bisa menjadi sumber risiko yang merusak reputasi dan keberlanjutan organisasi,” tegasnya.

Uji Kesiapan Organisasi

Untuk mengukur kesiapan organisasi, Okky mengajukan sejumlah pertanyaan reflektif. Di antaranya, apakah organisasi telah mendata seluruh alat AI yang digunakan karyawan, termasuk shadow AI yang dipakai tanpa persetujuan IT? Apakah sudah ada komite lintas fungsi yang berwenang memberi lampu hijau atau merah pada setiap proyek AI?

Ia juga mempertanyakan apakah organisasi telah melakukan asesmen risiko kuantitatif terkait bias dan implikasi hukum, serta memiliki kebijakan etika tertulis yang dipahami seluruh staf.

Jika sebuah organisasi menjawab “tidak” atau “tidak yakin” pada lebih dari dua pertanyaan tersebut, maka organisasi tersebut dinilai masih berada dalam fase unplanned AI adoption.

Sebagai solusi, Okky memaparkan tujuh pilar utama AI Governance yang mendorong penciptaan nilai secara aman.

Ketujuh pilar tersebut mencakup strategi dan kepemimpinan, pengelolaan data dan infrastruktur AI, etika dan kepatuhan, pengembangan SDM dan budaya AI, manajemen siklus hidup AI, monitoring dan transparansi, serta evaluasi berkelanjutan.

Menurut Okky, ketujuh pilar ini harus diterapkan secara holistik agar AI tidak hanya inovatif, tetapi juga dapat dipercaya.

 
Dari Strategi ke Verifikasi: Pentingnya Audit AI

Namun, kerangka kerja saja tidak cukup. Okky menegaskan bahwa audit adalah bukti nyata dari komitmen tata kelola.

Untuk itu, ia merekomendasikan penggunaan ISACA AI Audit Toolkit sebagai lapisan verifikasi. Toolkit ini mencakup enam dimensi explainability, mulai dari rasionalitas, tanggung jawab, data, keadilan, keamanan dan kinerja, hingga dampak.

“A framework is a promise, an audit is the proof,” kata Okky.

Menutup sesinya, Okky menekankan bahwa AI Governance bukan tentang membatasi inovasi, melainkan memastikan nilai jangka panjang.

“Governance bukan soal mengatakan ‘tidak’, tapi tentang menyeimbangkan manfaat, risiko, dan sumber daya,” ujarnya.

Ia juga menegaskan pentingnya kepercayaan digital yang dibangun melalui transparansi dan explainability lintas disiplin. Dengan pendekatan ini, AI tidak hanya menjadi mesin inovasi, tetapi juga fondasi kepercayaan di era digital.

Di tengah laju adopsi AI yang semakin cepat, pesan tersebut menjadi pengingat bahwa masa depan AI tidak hanya ditentukan oleh kecanggihan algoritma, tetapi juga oleh kebijaksanaan manusia dalam mengelolanya.