Mengenal Shadow AI Agent dan Risikonya bagi Perusahaan

Pemanfaatan kecerdasan buatan atau artificial intelligence (AI) semakin luas di dunia kerja. Teknologi ini membantu karyawan menyusun dokumen, menganalisis data, merangkum laporan, hingga mengotomatiskan pekerjaan yang sebelumnya membutuhkan banyak waktu. Namun, di balik manfaat tersebut, muncul risiko keamanan baru yang semakin sulit dikendalikan, yakni shadow AI agent.

Ancaman ini berbeda dari penggunaan chatbot AI tanpa izin yang selama ini menjadi perhatian perusahaan. Jika chatbot konvensional umumnya bekerja berdasarkan perintah pengguna, agen AI dapat menjalankan serangkaian tindakan secara mandiri. Sistem tersebut bahkan bisa terhubung dengan email, dokumen, basis data, aplikasi bisnis, dan berbagai layanan perusahaan lainnya.

Persoalan muncul ketika agen AI digunakan tanpa sepengetahuan atau persetujuan tim teknologi informasi (TI). Tanpa pengawasan yang memadai, sistem ini berpotensi mengakses informasi sensitif, memindahkan data ke layanan eksternal, mengubah berkas, atau menjalankan perintah tanpa mekanisme kontrol yang jelas.

Fenomena tersebut menjadi tantangan bagi perusahaan yang berusaha memanfaatkan AI sekaligus menjaga keamanan informasi. Pasalnya, agen AI yang awalnya dibuat untuk meningkatkan produktivitas dapat berkembang menjadi sistem otomatis yang terus bekerja di belakang layar. Ketika perusahaan tidak mengetahui keberadaan dan aktivitasnya, risiko kebocoran data maupun pelanggaran kepatuhan semakin sulit dideteksi.

Apa Itu Shadow AI Agent?

Shadow AI agent adalah sistem kecerdasan buatan otonom yang beroperasi di lingkungan organisasi tanpa persetujuan, tata kelola, atau pengawasan resmi dari perusahaan. Agen ini dapat mengakses data, berinteraksi dengan berbagai aplikasi, serta menjalankan tindakan atas nama pengguna tanpa dikelola melalui mekanisme pengendalian yang semestinya.

Untuk memahami istilah tersebut, penting membedakan antara alat AI biasa dan agen AI. Alat AI konvensional, seperti chatbot, umumnya menunggu pengguna memberikan instruksi. Pengguna memasukkan pertanyaan atau dokumen, kemudian sistem menghasilkan jawaban berdasarkan masukan tersebut.

Sebagai contoh, seorang karyawan menggunakan chatbot untuk merangkum laporan penjualan. Karyawan tersebut mengunggah dokumen, meminta ringkasan, lalu menerima hasilnya. Risiko keamanan terutama berkaitan dengan informasi yang dibagikan kepada layanan AI dan bagaimana penyedia layanan tersebut mengelola data.

Agen AI memiliki kemampuan yang lebih luas. Selain memahami instruksi dan menghasilkan jawaban, agen dapat menggunakan perangkat atau layanan lain untuk menyelesaikan tugas. Bergantung pada konfigurasi dan izin yang diberikan, agen dapat membaca dokumen, mengambil informasi dari aplikasi bisnis, menyusun email, memperbarui catatan, atau application programming interface (API).

Dengan kemampuan tersebut, agen AI tidak selalu berhenti setelah memberikan jawaban. Sistem dapat melanjutkan pekerjaan melalui beberapa langkah, bahkan menjalankannya secara otomatis tanpa memerlukan arahan manusia untuk setiap tindakan.

Istilah shadow mengacu pada aktivitas yang berlangsung di luar pengawasan atau persetujuan resmi organisasi. Dengan demikian, shadow AI agent bukan sekadar agen AI yang digunakan karyawan, melainkan agen yang beroperasi tanpa tata kelola yang memadai.

Misalnya, seorang karyawan menghubungkan agen AI gratis ke akun email dan penyimpanan dokumen perusahaan untuk mempercepat pekerjaan. Agen tersebut kemudian memperoleh izin membaca email, mencari berkas, dan mengirimkan pesan. Jika tim TI tidak mengetahui koneksi tersebut, perusahaan kehilangan visibilitas terhadap sistem yang mengakses informasi internalnya.

Situasi seperti ini dapat terjadi meskipun karyawan tidak memiliki niat buruk. Mereka mungkin hanya ingin bekerja lebih cepat atau mengurangi tugas berulang. Masalah utamanya adalah penggunaan teknologi yang berkembang lebih cepat daripada kemampuan organisasi untuk mengawasi dan mengendalikannya.

Seberapa Besar Ancaman Shadow AI?

Besarnya penggunaan AI tanpa pengawasan menjadi salah satu alasan perusahaan perlu memperhatikan risiko shadow AI agent. Berdasarkan angka yang dicantumkan dalam laporan 2025 State of Shadow AI Report, sebanyak 86 persen organisasi tidak memiliki visibilitas yang memadai terhadap aliran data AI. Laporan tersebut juga menyebut rata-rata perusahaan menggunakan lebih dari 1.200 aplikasi AI tanpa izin, dengan sekitar 223 insiden shadow AI setiap bulan.

Sementara itu, Gartner dilaporkan memperkirakan lebih dari 40 persen perusahaan akan mengalami insiden keamanan atau kepatuhan yang berkaitan langsung dengan penggunaan AI tanpa izin pada 2030.

BlackFog Report mencatat 86 persen karyawan menggunakan alat AI setidaknya sekali dalam seminggu. Menlo Security Report menyebut 68 persen menggunakan alat AI gratis melalui akun pribadi, sedangkan 57 persen memasukkan data sensitif ke dalam layanan tersebut.

Adapun 2025 State of Data Security Report menyebut 98 persen organisasi melaporkan penggunaan AI tanpa persetujuan. Dalam 2025 State of Shadow AI Report, 83 persen organisasi dilaporkan belum memiliki kontrol dasar untuk mencegah paparan data.

Angka-angka tersebut menunjukkan adanya kesenjangan antara penggunaan AI dan pengawasan organisasi. Namun, angka dari masing-masing laporan memiliki konteks dan metodologi tersendiri sehingga tidak dapat langsung dibandingkan sebagai satu ukuran yang sama.

Hal yang perlu diperhatikan adalah penggunaan AI tanpa izin tidak selalu berarti telah terjadi serangan siber atau kebocoran data. Risiko muncul ketika perusahaan tidak mengetahui alat yang digunakan, jenis informasi yang diakses, tujuan pemrosesan data, dan tindakan yang dapat dilakukan oleh sistem tersebut.

Pada agen AI, persoalan menjadi lebih rumit karena akses dan tindakan bisa berlangsung secara otomatis. Perusahaan tidak cukup hanya mengetahui aplikasi apa yang digunakan karyawan. Organisasi juga perlu memahami apakah aplikasi tersebut memiliki agen yang dapat membaca data, menjalankan perintah, dan berinteraksi dengan sistem lain.

Gartner juga diperkirakan menyebut sekitar 40 persen aplikasi perusahaan akan mencakup agen AI pada 2026. Perkembangan ini memperlihatkan bahwa agen AI semakin terintegrasi ke dalam perangkat kerja. Akibatnya, pengawasan perlu mencakup fitur AI di dalam aplikasi resmi, bukan hanya perangkat lunak yang dipasang secara terpisah.

Perbedaan Shadow AI dan Shadow AI Agent

Shadow AI dan shadow AI agent sama-sama dapat digunakan tanpa persetujuan tim TI. Akan tetapi, keduanya memiliki karakteristik dan tingkat risiko yang berbeda.

Shadow AI konvensional biasanya merujuk pada penggunaan alat AI tanpa persetujuan resmi. Contohnya adalah karyawan yang menggunakan chatbot pribadi untuk menyusun laporan atau merangkum dokumen perusahaan. Interaksi umumnya bergantung pada instruksi yang diberikan pengguna.

Sebaliknya, shadow AI agent dapat melakukan tindakan setelah memperoleh akses ke berbagai layanan. Sistem tersebut bisa bekerja melalui beberapa langkah, mengakses sumber data, dan menjalankan tugas tanpa campur tangan manusia secara terus-menerus.

Perbedaan ini dapat dilihat dari beberapa aspek. Alat AI biasa cenderung merespons perintah, sedangkan agen AI dapat menjalankan tindakan secara otonom. Aktivitas alat konvensional umumnya berkaitan dengan sesi penggunaan tertentu, sementara agen dapat terus berjalan di latar belakang.

Risiko terhadap data juga berbeda. Pada chatbot, paparan data biasanya berawal ketika pengguna memasukkan informasi ke dalam layanan. Pada agen AI, data dapat diakses dan dipindahkan melalui integrasi yang telah diberikan izin.

Dari sisi tindakan, alat AI biasa menghasilkan teks, gambar, atau jawaban. Agen AI dapat memiliki kemampuan untuk mengirim email, memperbarui berkas, mengambil data dari aplikasi, dan memanggil API. Kemampuan tersebut membuat agen berpotensi menimbulkan dampak yang lebih luas apabila tidak dikendalikan.

Perbedaan lainnya adalah visibilitas. Penggunaan chatbot tanpa izin mungkin dapat diketahui melalui pemantauan akses internet atau pemeriksaan penggunaan aplikasi. Namun, agen AI bisa bekerja menggunakan kredensial yang sah di dalam aplikasi yang telah disetujui perusahaan. Aktivitasnya pun dapat terlihat seperti pekerjaan normal.

Karena itu, shadow AI agent tidak seharusnya dianggap sekadar versi lebih canggih dari chatbot tanpa izin. Risiko utamanya adalah munculnya sistem yang dapat melakukan tindakan otomatis tanpa identitas, pengawasan, dan jejak audit yang jelas.

Mengapa Shadow AI Agent Muncul?

Shadow AI agent berkembang karena adanya kesenjangan antara kebutuhan karyawan dan proses tata kelola perusahaan. Di satu sisi, pekerja membutuhkan teknologi yang membantu mereka menyelesaikan pekerjaan dengan lebih cepat. Di sisi lain, proses persetujuan teknologi biasanya memerlukan evaluasi keamanan, pemeriksaan kepatuhan, dan pertimbangan biaya.

Ketika proses tersebut dianggap terlalu lama atau pilihan resmi perusahaan tidak memenuhi kebutuhan, sebagian karyawan mungkin mencari alternatif sendiri. Mereka dapat menggunakan layanan AI gratis, memasang ekstensi peramban, atau membuat otomatisasi pribadi untuk menyelesaikan tugas tertentu.

Pada awalnya, penggunaan tersebut mungkin terlihat sederhana. Seorang staf menggunakan AI untuk merangkum dokumen, tim penjualan memanfaatkan agen untuk mengatur tindak lanjut pelanggan, atau pengembang membuat agen yang membantu memeriksa kode program.

Masalah muncul ketika alat tersebut terhubung ke sistem perusahaan dan memperoleh izin untuk mengakses informasi internal. Jika penggunaan meluas ke anggota tim lain, agen yang semula dibuat untuk kebutuhan pribadi dapat menjadi bagian dari proses kerja sebuah departemen.

Tanpa pengawasan, perusahaan mungkin tidak mengetahui bahwa agen telah memperoleh akses ke data yang lebih luas daripada kebutuhan awalnya. Organisasi juga bisa kehilangan informasi mengenai siapa yang membuat agen, siapa yang bertanggung jawab, layanan eksternal mana yang digunakan, dan kapan aksesnya harus dihentikan.

Perkembangan AI yang semakin terintegrasi dengan aplikasi bisnis turut memperbesar tantangan tersebut. Agen dapat beroperasi di dalam perangkat lunak yang sudah disetujui perusahaan sehingga tidak selalu tampak sebagai aplikasi baru yang mencurigakan.

Oleh sebab itu, persoalan shadow AI tidak dapat diselesaikan hanya dengan melarang karyawan menggunakan AI. Perusahaan perlu menyediakan pilihan AI yang aman, mudah diakses, dan sesuai kebutuhan kerja. Pada saat yang sama, organisasi harus memastikan bahwa penggunaan tersebut tetap berada dalam kerangka tata kelola yang jelas.

Tiga Contoh Risiko Shadow AI Agent di Lingkungan Kerja

1. Agen penjualan dengan akses terlalu luas
   Bayangkan seorang manajer penjualan menggunakan agen AI untuk menyusun email tindak lanjut, mengambil informasi pelanggan dari sistem customer relationship management (CRM), serta menjadwalkan pertemuan.

   Untuk menjalankan tugas tersebut, agen dihubungkan dengan layanan kerja perusahaan menggunakan OAuth. OAuth merupakan mekanisme otorisasi yang memungkinkan sebuah aplikasi memperoleh akses tertentu ke layanan lain tanpa harus meminta pengguna memberikan kata sandi secara langsung kepada aplikasi tersebut.

   Agen kemudian menjadi bagian dari rutinitas tim penjualan. Namun, ketika izin yang diberikan terlalu luas, sistem dapat mengakses dokumen yang sebenarnya tidak diperlukan untuk pekerjaannya. Agen mungkin menemukan informasi mengenai transaksi, kontrak, atau pelanggan dari folder yang seharusnya tidak termasuk dalam cakupan aksesnya.

   Jika aktivitas tersebut tidak dipantau, agen dapat mengakses banyak dokumen atau mengirimkan email dalam jumlah besar sebelum perusahaan menyadari masalahnya. Investigasi pun menjadi lebih sulit apabila agen tidak memiliki identitas resmi dan catatan aktivitas yang memadai.

   Kasus ini menunjukkan bahwa masalah tidak selalu berawal dari tindakan jahat. Agen yang dirancang untuk membantu pekerjaan dapat menimbulkan risiko karena izin aksesnya terlalu luas dan tindakannya tidak diawasi.

2. Agen pengembang yang terjebak prompt injection
   Contoh berikutnya berkaitan dengan pengembangan perangkat lunak. Seorang pengembang menggunakan agen AI untuk meninjau perubahan kode, menemukan kerentanan, dan membantu memeriksa kualitas perangkat lunak. Agen tersebut terhubung ke repositori kode dan sejumlah alat pengembangan menggunakan token API.

   Dalam prosesnya, agen memeriksa sebuah dependensi atau konten eksternal yang mengandung instruksi berbahaya tersembunyi. Instruksi tersebut dirancang untuk memengaruhi cara agen memahami tugas dan menentukan tindakan.

   Serangan seperti ini dikenal sebagai indirect prompt injection. Penyerang tidak harus memberikan instruksi berbahaya secara langsung kepada pengguna. Sebaliknya, instruksi dapat disisipkan ke dalam konten yang kemudian dibaca atau diproses oleh agen AI.

   Jika agen tidak mampu membedakan instruksi yang sah dari konten yang tidak tepercaya, sistem dapat mengikuti arahan yang salah. Dalam skenario yang digambarkan sumber, agen dapat menandai kerentanan sebagai telah diperbaiki atau memulai koneksi ke sistem eksternal.

   Risiko menjadi lebih besar ketika agen memiliki izin untuk mengubah kode, menjalankan perintah, atau mengakses sistem lain tanpa persetujuan manusia. Karena itu, penggunaan agen dalam pengembangan perangkat lunak perlu disertai pembatasan akses, validasi hasil, serta pemeriksaan sebelum tindakan penting dijalankan.

3. Agen SDM yang memproses data sensitif
   Sebuah tim sumber daya manusia (SDM) dapat menggunakan agen AI untuk menyusun komunikasi, memperbarui catatan, dan mengotomatiskan pekerjaan administratif. Untuk menjalankan fungsinya, agen dihubungkan dengan sistem data karyawan, informasi penggajian, dan aplikasi komunikasi.

   Penggunaan tersebut mungkin meningkatkan efisiensi. Akan tetapi, apabila penyedia layanan AI belum melalui pemeriksaan keamanan dan kepatuhan, data karyawan dapat diproses oleh pihak eksternal tanpa peninjauan yang memadai.

   Perusahaan mungkin tidak mengetahui secara jelas bagaimana data disimpan, siapa yang dapat mengaksesnya, atau apakah pemrosesannya sesuai dengan ketentuan yang berlaku. Persoalan ini semakin serius apabila informasi yang diproses mencakup data pribadi dan informasi penggajian.

   Dalam situasi seperti ini, alat produktivitas dapat berubah menjadi saluran pemrosesan data yang terus aktif. Risiko bukan hanya terletak pada satu dokumen yang diunggah, tetapi juga pada hubungan berkelanjutan antara sistem internal dan layanan eksternal.

Ketiga contoh tersebut memperlihatkan bahwa tujuan awal penggunaan AI bisa saja positif. Ancaman muncul ketika akses, tindakan, dan aliran data tidak dikelola secara memadai.

Lima Risiko Utama Shadow AI Agent

1. Kebocoran dan pemindahan data tanpa izin
   Risiko pertama adalah eksfiltrasi data, yakni proses pemindahan data dari suatu sistem ke lokasi atau pihak lain tanpa otorisasi yang semestinya. Agen AI dapat mengakses data melalui API dan integrasi, kemudian mengirimkan informasi tersebut ke layanan lain untuk menjalankan tugasnya. Jika koneksi dan aktivitas ini tidak dipantau, pemindahan data dapat berlangsung berulang kali tanpa diketahui perusahaan.

   Kebocoran tidak harus terjadi melalui serangan siber yang rumit. Data dapat terekspos akibat izin yang terlalu luas, konfigurasi yang tidak tepat, atau penggunaan layanan eksternal yang belum disetujui.

   Karena itu, perusahaan perlu mengetahui jenis data yang dapat diakses agen, tujuan penggunaannya, serta layanan mana yang menerima informasi tersebut. Akses harus dibatasi berdasarkan kebutuhan, bukan diberikan secara menyeluruh hanya demi mempermudah konfigurasi.

2. Serangan prompt injection
   Agen AI dapat memproses email, dokumen, halaman web, kode program, dan berbagai konten lain. Sebagian konten tersebut mungkin memuat instruksi yang mencoba memanipulasi perilaku agen. Dalam serangan prompt injection, instruksi berbahaya berusaha membuat sistem AI mengabaikan tujuan awal atau melakukan tindakan yang tidak semestinya. Serangan tidak langsung dapat terjadi ketika instruksi disisipkan dalam sumber yang dipercaya atau diproses oleh agen.

   Risiko semakin tinggi jika agen diberi wewenang untuk menjalankan tindakan penting tanpa pemeriksaan. Karena itu, organisasi perlu memisahkan instruksi sistem dari konten eksternal yang tidak tepercaya, memvalidasi keluaran agen, dan membatasi tindakan yang boleh dilakukan secara otomatis.

   Pemeriksaan tambahan perlu diterapkan pada tindakan berisiko tinggi, seperti mengubah data penting, mengakses informasi sensitif, atau mengirimkan informasi kepada pihak eksternal.

3. Token OAuth dan akses yang tetap aktif
   Agen AI kerap terhubung ke aplikasi perusahaan menggunakan OAuth atau token API. Mekanisme ini membantu integrasi antarsistem, tetapi dapat menjadi sumber risiko jika izin diberikan terlalu luas dan tidak ditinjau secara berkala.

   Token yang telah diberikan bisa tetap aktif meskipun agen tidak lagi digunakan. Dalam kondisi tertentu, akses juga dapat terlewat saat seorang karyawan pindah tugas atau meninggalkan perusahaan.

   Akibatnya, muncul akses tersembunyi yang tidak lagi sesuai dengan kebutuhan organisasi. Jika kredensial tersebut disalahgunakan atau agen berperilaku di luar tujuan awalnya, dampaknya dapat menjangkau berbagai sistem yang terhubung.

   Untuk mengurangi risiko, perusahaan perlu menginventarisasi token, meninjau izin yang diberikan, menetapkan masa berlaku yang sesuai, serta mencabut akses yang tidak lagi dibutuhkan.

4. Pelanggaran kepatuhan dan regulasi
   Penggunaan agen AI juga dapat menimbulkan persoalan kepatuhan. Data pribadi, informasi kesehatan, data keuangan, dan kekayaan intelektual perusahaan mungkin diproses melalui layanan yang belum menjalani evaluasi.

   Perusahaan perlu memahami ketentuan yang berlaku terhadap jenis data yang dikelola, termasuk persyaratan pemrosesan, penyimpanan, pemindahan, dan akses oleh pihak ketiga. Penggunaan AI tanpa pemeriksaan dapat membuat organisasi kesulitan membuktikan bahwa data dikelola secara tepat.

   Risiko juga muncul ketika data dipindahkan ke wilayah penyimpanan atau yurisdiksi yang tidak sesuai dengan ketentuan organisasi. Dengan demikian, tata kelola agen AI harus mencakup aspek teknis, kontraktual, dan kepatuhan.

5. Tidak adanya identitas dan jejak audit
   Salah satu persoalan paling mendasar adalah agen AI yang tidak memiliki identitas resmi di dalam sistem perusahaan. Ketika agen melakukan tindakan, organisasi mungkin tidak memiliki catatan yang jelas mengenai siapa atau sistem apa yang mengakses data, izin apa yang digunakan, dan tindakan apa yang dilakukan.

   Tanpa jejak audit, perusahaan akan kesulitan menyelidiki insiden, menentukan sumber masalah, serta menetapkan pertanggungjawaban. Aktivitas agen juga dapat bercampur dengan aktivitas pengguna karena sistem memakai kredensial milik karyawan.

   Karena itu, setiap agen yang diizinkan beroperasi perlu memiliki identitas yang dapat dikenali, pemilik yang bertanggung jawab, batas akses yang jelas, dan catatan aktivitas yang dapat diperiksa.

Mengapa Shadow AI Agent Sulit Dideteksi?

Pada penggunaan perangkat lunak tanpa izin atau shadow IT, perusahaan masih dapat mengandalkan sejumlah metode konvensional, seperti inventaris aplikasi, pemantauan jaringan, dan kebijakan pemasangan perangkat lunak.

Namun, agen AI dapat bekerja di dalam aplikasi yang telah disetujui. Agen yang mengirim email melalui layanan resmi atau membaca berkas dari penyimpanan perusahaan bisa terlihat seperti aktivitas pengguna biasa. Sistem tersebut bahkan dapat berjalan tanpa memasang aplikasi baru di perangkat.

Agen juga dapat dibuat melalui ekstensi peramban, skrip sederhana, API, atau integrasi layanan. Jika perusahaan hanya memeriksa daftar aplikasi yang terpasang, sebagian aktivitas tersebut mungkin tidak teridentifikasi.

Kecepatan kerja agen menambah tantangan. Sistem otomatis dapat menjalankan banyak tindakan dalam waktu singkat. Ketika anomali ditemukan, agen mungkin sudah mengakses sejumlah besar data atau melakukan perubahan pada berbagai sistem.

Karena itu, pemantauan keamanan perlu memperhatikan bukan hanya aplikasi yang digunakan, melainkan juga identitas yang mengakses sistem, izin yang dimiliki, pola penggunaan, dan aliran data. Organisasi perlu memiliki kemampuan untuk mengetahui ketika aplikasi resmi digunakan oleh agen yang tidak dikenal atau ketika sebuah integrasi memperoleh akses yang tidak sesuai dengan kebutuhan.

Lima Jalur Masuk Shadow AI Agent ke Perusahaan

Shadow AI agent dapat masuk melalui berbagai jalur yang tampak biasa dalam aktivitas kerja sehari-hari.

• Pertama, ekstensi peramban berbasis AI. Ekstensi ini dapat membantu menyusun email, merangkum halaman web, dan mengotomatiskan tugas. Namun, sebagian ekstensi meminta izin untuk membaca konten halaman atau berinteraksi dengan aplikasi web. Jika izin tersebut terlalu luas, informasi perusahaan berpotensi dikirim ke layanan eksternal.
• Kedua, server Model Context Protocol (MCP). MCP merupakan protokol yang memungkinkan agen AI terhubung dengan alat, sumber data, dan layanan lain. Penggunaan server MCP tanpa pengawasan dapat membuka jalur menuju basis data, sistem berkas, dan aplikasi internal. Oleh sebab itu, autentikasi, otorisasi, dan pemantauan server MCP perlu menjadi bagian dari tata kelola AI.
• Ketiga, aplikasi AI yang terhubung melalui OAuth. Pengguna dapat menghubungkan layanan AI ke email, kalender, penyimpanan dokumen, atau platform kolaborasi. Jika izin diberikan tanpa pemeriksaan, aplikasi mungkin memperoleh akses yang jauh lebih luas daripada kebutuhan tugasnya.
• Keempat, skrip API dan otomatisasi pribadi. Pengembang atau karyawan dengan kemampuan teknis dapat membuat otomatisasi menggunakan API dan kerangka kerja AI. Skrip sederhana dapat berkembang menjadi agen yang mengakses sistem internal. Jika dibuat dengan kredensial pribadi dan tidak didaftarkan, aktivitasnya sulit dilacak secara terpusat.
• Kelima, fitur AI di dalam layanan SaaS. Banyak aplikasi Software as a Service (SaaS) memiliki fitur AI yang terintegrasi. Walaupun aplikasi utama telah disetujui, fitur AI di dalamnya belum tentu sudah melalui peninjauan tata kelola yang sama. Perusahaan perlu mengevaluasi apakah fitur tersebut dapat mengakses data, mengotomatiskan tindakan, atau terhubung dengan layanan lain.

Kelima jalur tersebut memperlihatkan bahwa pengawasan AI tidak cukup dilakukan dengan memblokir aplikasi yang tidak dikenal. Perusahaan juga perlu memeriksa izin dan kemampuan otomatisasi yang ada di dalam perangkat lunak resmi.

Cara Menemukan dan Mengelola Shadow AI Agent

Untuk mengurangi risiko, perusahaan perlu membangun proses yang mencakup penemuan, klasifikasi, dan tata kelola agen AI. Tujuannya bukan sekadar menemukan alat yang digunakan tanpa izin, melainkan memahami kemampuan, akses, dan dampak yang mungkin ditimbulkan.

• Menemukan agen yang beroperasi
  Langkah pertama adalah mengidentifikasi agen AI yang telah terhubung dengan lingkungan perusahaan. Pemeriksaan sebaiknya tidak terbatas pada daftar aplikasi yang terpasang, tetapi juga mencakup pola akses dan koneksi antarsistem.

  Perusahaan dapat mengaudit integrasi OAuth untuk menemukan aplikasi pihak ketiga yang memiliki akses aktif. Pemeriksaan ekstensi peramban pada perangkat organisasi juga dapat membantu mengidentifikasi alat AI yang membaca atau mengolah data perusahaan.

  Selain itu, tim keamanan perlu meninjau token API yang dibuat pengguna, koneksi menuju layanan eksternal, serta skrip otomatisasi yang mengakses sistem internal. Pemeriksaan ini membantu organisasi memahami aplikasi dan agen yang memiliki jalur akses terhadap data.

  Penemuan perlu dilakukan secara berkala karena agen baru dapat muncul seiring perubahan kebutuhan karyawan. Pemeriksaan satu kali tidak cukup untuk memastikan seluruh aktivitas AI tetap terkendali.

• Mengklasifikasikan tingkat risiko
  Setelah ditemukan, agen perlu diklasifikasikan berdasarkan kemampuan dan jenis aksesnya. Tidak semua agen memiliki tingkat risiko yang sama. Agen yang dapat mengakses data keuangan, informasi pribadi, catatan karyawan, atau kekayaan intelektual perlu mendapat perhatian lebih tinggi. Hal serupa berlaku bagi agen yang memiliki izin untuk mengubah data, mengirim pesan eksternal, menjalankan perintah, atau mengakses banyak sistem sekaligus.

  Agen berisiko menengah mungkin memiliki izin yang relatif luas, tetapi hanya mengakses data dengan tingkat sensitivitas lebih rendah. Sementara itu, agen berisiko rendah biasanya memiliki cakupan tugas terbatas dan tidak mengakses informasi sensitif.

  Klasifikasi membantu perusahaan menentukan prioritas penanganan. Agen berisiko tinggi dapat segera dibatasi atau dinonaktifkan sementara sampai melalui evaluasi. Agen yang masih dibutuhkan dapat ditinjau dan diarahkan ke mekanisme penggunaan resmi.

• Menerapkan tata kelola dan pengawasan
  Setiap agen yang diizinkan beroperasi harus memiliki identitas, pemilik, tujuan penggunaan, serta batas akses yang jelas. Organisasi juga perlu menetapkan siapa yang bertanggung jawab terhadap aktivitas agen dan bagaimana kinerjanya akan dipantau.

  Izin harus disesuaikan dengan kebutuhan tugas. Agen yang hanya bertugas merangkum dokumen, misalnya, tidak seharusnya memperoleh akses untuk mengubah data penggajian atau mengirim komunikasi ke seluruh pelanggan.

  Untuk tindakan yang sensitif, perusahaan sebaiknya menerapkan persetujuan manusia sebelum tindakan dijalankan. Mekanisme ini dapat digunakan ketika agen hendak mengirim informasi kepada pihak eksternal, mengubah catatan penting, atau menjalankan tindakan yang sulit dibatalkan.

  Pemantauan berkelanjutan juga diperlukan untuk mendeteksi pola akses yang tidak biasa, penggunaan token di luar tujuan awal, dan aktivitas yang berpotensi menunjukkan penyalahgunaan.

  Tata kelola bukan berarti melarang semua penggunaan AI. Pendekatan yang lebih tepat adalah memastikan agen yang memang dibutuhkan dapat digunakan melalui jalur resmi dengan kontrol yang memadai.

Peran IAM dalam Mengendalikan Shadow AI Agent

Salah satu fondasi penting dalam pengelolaan shadow AI agent adalah Identity and Access Management (IAM), yaitu sistem manajemen identitas dan akses. IAM membantu organisasi menentukan siapa atau apa yang boleh mengakses sumber daya tertentu, izin apa yang dimiliki, dan bagaimana aktivitas akses tersebut dikelola.

Dalam lingkungan perusahaan, identitas tidak hanya penting bagi karyawan. Sistem otomatis dan agen AI yang mengakses data atau menjalankan tindakan juga perlu memiliki identitas yang dapat dikenali.

Setiap agen yang disetujui dapat dikelola seperti akun layanan atau service account, dengan pemilik yang ditunjuk, izin yang dibatasi, dan catatan aktivitas yang dapat diaudit. Dengan begitu, perusahaan dapat membedakan tindakan agen dari tindakan pengguna manusia serta mengetahui sistem mana yang bertanggung jawab atas aktivitas tertentu.

IAM juga membantu organisasi mengendalikan siklus hidup akses. Ketika sebuah agen tidak lagi dibutuhkan, izin dan token yang terkait dengannya dapat dicabut. Jika agen berpindah fungsi atau membutuhkan akses baru, perubahan tersebut dapat ditinjau sebelum diterapkan.

Pendekatan ini penting karena sekadar mengetahui keberadaan agen belum cukup. Perusahaan juga perlu memastikan bahwa agen hanya dapat melakukan tindakan yang sesuai dengan tujuan penggunaannya.

Namun, IAM bukan satu-satunya lapisan keamanan yang dibutuhkan. Organisasi tetap perlu menerapkan perlindungan data, pemantauan keamanan, evaluasi penyedia AI, pengujian sistem, dan proses respons insiden. Identitas dan akses menjadi fondasi untuk mengendalikan agen, sedangkan mekanisme lain membantu mengurangi risiko dari perilaku, data, dan integrasi yang digunakan.

Sebagai salah satu contoh solusi di bidang ini, miniOrange AI Agent Governance menawarkan pendekatan pengelolaan identitas terpusat, penerapan kebijakan, dan pemantauan agen AI. Solusi semacam ini ditujukan untuk membantu perusahaan menetapkan izin sesuai kebutuhan, menentukan pemilik agen, dan melacak aktivitas melalui jejak audit. Pemilihan platform tetap perlu disesuaikan dengan kebutuhan, arsitektur, serta kebijakan keamanan masing-masing organisasi.

Mengapa Melarang AI Saja Tidak Cukup?

Ketika menemukan risiko shadow AI, perusahaan mungkin tergoda untuk melarang seluruh penggunaan AI yang tidak melalui persetujuan. Kebijakan tersebut dapat menjadi bagian dari pengendalian, tetapi larangan saja belum tentu menyelesaikan akar masalah.

Karyawan menggunakan AI karena teknologi tersebut dapat membantu menyelesaikan pekerjaan dengan lebih cepat. Jika alat resmi sulit diakses, tidak sesuai kebutuhan, atau proses persetujuannya terlalu lama, sebagian pengguna mungkin tetap mencari alternatif di luar sistem perusahaan.

Karena itu, organisasi perlu menyeimbangkan keamanan dengan kemudahan penggunaan. Perusahaan dapat menyediakan daftar layanan AI yang telah dievaluasi, menjelaskan data apa yang boleh dimasukkan, serta menetapkan prosedur untuk meminta akses atau mengusulkan alat baru.

Edukasi juga penting. Karyawan perlu memahami bahwa menghubungkan agen AI ke email atau penyimpanan perusahaan bukan sekadar mengaktifkan fitur tambahan. Tindakan tersebut dapat memberikan akses terhadap informasi dan memungkinkan sistem melakukan berbagai operasi atas nama pengguna.

Kebijakan yang jelas membantu karyawan mengetahui batas penggunaan yang diperbolehkan. Sementara itu, proses persetujuan yang realistis dapat mengurangi dorongan untuk mencari jalan pintas.

Kesimpulan

Shadow AI agent merupakan tantangan keamanan yang muncul seiring meningkatnya kemampuan AI untuk menjalankan tugas secara mandiri. Berbeda dari chatbot yang umumnya merespons instruksi pengguna, agen AI dapat terhubung dengan berbagai aplikasi, mengakses data, dan melakukan tindakan secara otomatis.

Ketika agen tersebut digunakan tanpa persetujuan dan pengawasan perusahaan, risiko tidak lagi terbatas pada informasi yang dimasukkan pengguna ke dalam chatbot. Ancaman dapat berkembang menjadi akses data yang berkelanjutan, pemindahan informasi tanpa izin, manipulasi melalui prompt injection, penyalahgunaan token, hingga kesulitan memenuhi persyaratan kepatuhan.

Masalah ini juga tidak selalu disebabkan oleh niat buruk karyawan. Dalam banyak situasi, agen AI digunakan karena dianggap mampu meningkatkan produktivitas. Risiko muncul ketika organisasi tidak memiliki visibilitas dan kontrol yang cukup terhadap teknologi yang digunakan.

Karena itu, perusahaan perlu melakukan inventarisasi agen AI, memeriksa integrasi dan izin akses, mengklasifikasikan tingkat risiko, serta menerapkan identitas dan jejak audit yang jelas. Mekanisme persetujuan manusia juga perlu digunakan untuk tindakan yang sensitif, sementara pemantauan berkelanjutan membantu mendeteksi aktivitas yang tidak biasa.

Pada akhirnya, tujuan keamanan bukan menghentikan inovasi AI, melainkan memastikan teknologi tersebut digunakan secara bertanggung jawab. Dengan tata kelola yang tepat, perusahaan dapat tetap memanfaatkan otomatisasi dan kecerdasan buatan tanpa membiarkan agen yang tidak terlihat mengambil akses dan kendali atas data penting organisasi.