NVIDIA Bentuk Aliansi AI Open Source untuk Perkuat Keamanan Siber

Transformasi kecerdasan buatan yang semakin pesat tidak hanya membuka peluang baru bagi berbagai industri, tetapi juga menghadirkan tantangan besar dalam aspek keamanan siber. Di tengah meningkatnya penggunaan AI generatif dan agen AI (AI agents), sejumlah perusahaan teknologi global kini mengambil langkah bersama untuk memastikan teknologi tersebut berkembang secara aman, transparan, dan bertanggung jawab.

NVIDIA bersama ratusan perusahaan teknologi, organisasi open source, serta komunitas riset resmi membentuk Open Secure AI Alliance, sebuah aliansi yang berfokus pada pengembangan teknologi, model, framework, dan berbagai perangkat keamanan AI berbasis open source. Melalui kolaborasi ini, para anggotanya ingin memastikan bahwa kemampuan pertahanan siber tidak hanya dimiliki oleh segelintir perusahaan besar, tetapi juga dapat dimanfaatkan secara luas oleh komunitas keamanan, lembaga pemerintah, hingga sektor industri.

Pembentukan aliansi ini menjadi sinyal bahwa keamanan AI kini dipandang sebagai tantangan bersama yang membutuhkan pendekatan kolaboratif. Jika selama ini perangkat lunak open source menjadi fondasi penting bagi perkembangan internet dan komputasi modern, kini pendekatan serupa dinilai perlu diterapkan untuk membangun ekosistem keamanan AI yang lebih kuat.

Perangkat lunak open source selama bertahun-tahun telah menjadi tulang punggung berbagai layanan digital, mulai dari cloud computing, layanan keuangan, manufaktur, telekomunikasi, pemerintahan, hingga layanan internet. Sifatnya yang terbuka memungkinkan ribuan pengembang dan peneliti di seluruh dunia melakukan audit, memperbaiki kelemahan, serta meningkatkan keamanan sistem secara bersama-sama.

Menurut Open Secure AI Alliance, pendekatan tersebut juga relevan diterapkan pada keamanan AI. Karena itu, aliansi ini dibangun di atas berbagai inisiatif yang telah dikembangkan sebelumnya, termasuk Akrites dari Linux Foundation serta komunitas OpenSSF, untuk mempercepat identifikasi, perbaikan, dan pengungkapan berbagai kerentanan keamanan menggunakan teknologi terbuka.

AI Open Source Dinilai Penting untuk Pertahanan Siber

Aliansi tersebut menilai dunia tidak harus memilih antara model AI tertutup (closed models) atau model AI terbuka (open models). Keduanya memiliki fungsi yang saling melengkapi.

Model AI tertutup dinilai mampu menghadirkan inovasi dan kemampuan komputasi tingkat lanjut. Namun di sisi lain, model AI terbuka menawarkan transparansi yang lebih tinggi sehingga dapat dipelajari, diuji, dimodifikasi, dan dijalankan secara mandiri oleh organisasi yang membutuhkan tingkat kontrol lebih besar terhadap infrastrukturnya.

Dalam konteks keamanan siber, keterbukaan tersebut dinilai memberikan sejumlah keuntungan. Selain memperluas akses terhadap kemampuan pertahanan digital, model terbuka memungkinkan organisasi membangun sistem keamanan yang sesuai dengan kebutuhan masing-masing tanpa bergantung pada satu penyedia layanan.

Pendekatan ini juga dianggap mampu mengurangi risiko single point of failure, yaitu kondisi ketika kegagalan pada satu sistem atau satu vendor dapat berdampak terhadap seluruh mekanisme pertahanan digital.

Meski demikian, Open Secure AI Alliance mengakui bahwa model AI terbuka juga memiliki risiko penyalahgunaan. Teknologi tersebut dapat dimanfaatkan untuk menghilangkan mekanisme pengamanan atau bahkan digunakan sebagai alat dalam serangan siber.

Namun menurut aliansi tersebut, ancaman serupa juga dapat terjadi pada model AI tertutup. Karena itu, solusi yang dinilai lebih tepat bukanlah membatasi akses terhadap AI terbuka, melainkan membangun sistem perlindungan yang lebih kuat melalui evaluasi keamanan yang ketat, guardrails yang efektif, serta mekanisme perbaikan kerentanan secara cepat.

Insiden Hugging Face Jadi Bukti Pentingnya AI Open Models

Salah satu contoh yang menjadi perhatian aliansi adalah insiden keamanan yang dialami platform AI Hugging Face. Ketika proses investigasi digital membutuhkan analisis cepat terhadap ribuan aktivitas, sejumlah layanan AI tertutup justru tidak mampu membedakan antara aktivitas penyerang dengan analis keamanan sehingga membatasi proses forensik.

Dalam kondisi tersebut, Hugging Face memilih menjalankan model GLM 5.2 yang bersifat open-weight di infrastrukturnya sendiri. Model tersebut digunakan untuk menganalisis lebih dari 17.000 aktivitas, sehingga tim keamanan dapat mengidentifikasi pola serangan dan mempercepat proses mitigasi.

Peristiwa tersebut memperlihatkan bahwa organisasi membutuhkan kemampuan untuk menjalankan AI secara mandiri di lingkungan mereka sendiri. Ketika model AI dapat diperiksa, dimodifikasi, dan dikendalikan sepenuhnya, proses respons terhadap insiden keamanan dapat dilakukan jauh lebih cepat tanpa bergantung pada layanan pihak ketiga.

Atas dasar itulah Open Secure AI Alliance mendorong pengembangan berbagai alat pertahanan AI terbuka agar perusahaan maupun pemerintah dapat membangun sistem keamanan yang berjalan pada ekosistem multi-vendor sekaligus mengurangi ketergantungan terhadap satu penyedia teknologi.

Didukung Ratusan Perusahaan Teknologi Dunia

Open Secure AI Alliance langsung memperoleh dukungan luas dari industri teknologi global.

Deretan anggotanya mencakup perusahaan-perusahaan besar seperti NVIDIA, Microsoft, AWS, Cisco, IBM, Intel, Dell Technologies, Lenovo, GitHub, Cloudflare, CrowdStrike, Fortinet, Palo Alto Networks, VMware by Broadcom, SAP, Salesforce, Red Hat, Mozilla, Hugging Face, Linux Foundation, Nokia, NetApp, ServiceNow, Snowflake, Zscaler, Check Point, SentinelOne, SUSE, serta puluhan perusahaan teknologi dan organisasi riset AI lainnya.

Kolaborasi lintas industri ini menunjukkan bahwa keamanan AI bukan lagi menjadi tanggung jawab satu perusahaan, melainkan memerlukan kerja sama seluruh ekosistem, mulai dari penyedia cloud, pengembang perangkat lunak, komunitas open source, hingga perusahaan keamanan siber.

NVIDIA Buka Kontribusi Teknologi AI

Sebagai salah satu pendiri aliansi, NVIDIA turut menyumbangkan berbagai komponen penting untuk mempercepat pengembangan keamanan AI. Kontribusi tersebut meliputi model AI terbuka, model weights, dataset, hingga hasil penelitian mengenai agent harness, yaitu framework yang mengatur bagaimana agen AI berinteraksi secara aman dengan berbagai sistem.

Selain itu, NVIDIA juga memperkenalkan proyek open source baru bernama NVIDIA Labs Object-Oriented Agent (NOOA) yang telah tersedia melalui GitHub. Framework riset ini dirancang agar perilaku agen AI menjadi lebih mudah diuji, dilacak, diaudit, serta dikelola. Dengan demikian, pengembang dapat memastikan bahwa agen AI bekerja sesuai aturan keamanan yang telah ditetapkan.

Aliansi ini juga menegaskan bahwa keamanan AI tidak hanya bergantung pada model bahasa (large language model), melainkan pada keseluruhan ekosistem agen AI yang mencakup identitas digital, sistem perizinan, guardrails, pencatatan aktivitas, hingga mekanisme evaluasi.

Berbagai Kontribusi Anggota Aliansi

Selain NVIDIA, berbagai anggota lain juga menghadirkan teknologi yang saling melengkapi. HPE berkontribusi melalui standar identitas berbasis SPIFFE/SPIRE yang mendukung implementasi Zero Trust sehingga identitas agen AI dapat diverifikasi secara kriptografis.

Hugging Face menyerahkan format penyimpanan model AI Safetensors kepada PyTorch Foundation. Format ini dirancang agar penyimpanan bobot model AI menjadi lebih aman sekaligus mencegah eksekusi kode berbahaya dari jarak jauh.

IBM bersama Red Hat menghadirkan Lightwell, solusi yang memperkuat keamanan rantai pasok perangkat lunak open source melalui penggunaan patch yang ditandatangani secara digital.

Microsoft turut mengembangkan MDASH, sebuah framework pemindaian multi-model berbasis AI agentik yang mampu mengoordinasikan sejumlah agen AI untuk menemukan, memverifikasi, hingga membuktikan adanya celah keamanan yang dapat dieksploitasi.

Sementara itu, SpaceXAI membuka kode sumber Grok Build, agen AI berbasis terminal yang membantu proses pengembangan perangkat lunak. Perusahaan tersebut juga berencana membuka bobot model keluarga Grok untuk mendukung komunitas pengembang dan peneliti AI.

Ajakan kepada Pemerintah dan Regulator

Open Secure AI Alliance juga mengajak pemerintah serta regulator di berbagai negara agar melihat model AI terbuka sebagai bagian dari aset pertahanan digital, bukan sebagai ancaman. Menurut aliansi tersebut, pembatasan secara menyeluruh terhadap AI terbuka justru berpotensi melemahkan kemampuan pertahanan siber sekaligus meningkatkan ketergantungan pada segelintir penyedia AI tertutup.

Sebaliknya, pemerintah dan sektor industri didorong untuk berinvestasi pada infrastruktur pertahanan AI yang bersifat terbuka, seperti dataset bersama, framework evaluasi, simulator serangan, hingga berbagai perangkat red teaming yang dapat digunakan untuk menguji ketahanan sistem AI.

Pendekatan tersebut dinilai sejalan dengan keberhasilan ekosistem open source yang selama puluhan tahun menjadi fondasi bagi berbagai layanan digital di seluruh dunia.

Melalui Open Secure AI Alliance, para anggotanya berharap era AI dapat berkembang menjadi ekosistem yang lebih aman, transparan, dan tangguh. Mereka meyakini bahwa keamanan AI tidak cukup dibangun melalui kerahasiaan teknologi semata, tetapi melalui kolaborasi terbuka yang memungkinkan komunitas global terus menguji, memperbaiki, dan memperkuat sistem AI demi kepentingan bersama.