OpenAI Hentikan Sementara Astra, Kemampuan Siber Jadi Sorotan

OpenAI mengambil langkah tidak biasa terhadap pengembangan model Artificial Intelligence (AI) terbarunya, Astra. Perusahaan tersebut memutuskan menghentikan sementara sejumlah aktivitas internal yang melibatkan Astra setelah evaluasi awal menunjukkan adanya peningkatan signifikan dalam kemampuan agentic coding dan keamanan siber.

Keputusan ini menjadi perhatian karena kemampuan AI dalam menjalankan tugas secara mandiri terus berkembang. Model yang tidak hanya mampu menghasilkan kode, tetapi juga memahami lingkungan, menggunakan berbagai alat, mengambil keputusan, dan menjalankan rangkaian tindakan secara otomatis, dinilai memiliki potensi besar untuk membantu pekerjaan manusia. Di sisi lain, kemampuan tersebut juga dapat menimbulkan risiko baru apabila jatuh ke tangan yang salah atau tidak dikendalikan dengan sistem keamanan yang memadai.

OpenAI mengatakan penghentian sementara dilakukan untuk memastikan aktivitas yang melibatkan Astra telah memenuhi standar keamanan yang lebih ketat. Perusahaan kini menerapkan berbagai kontrol tambahan terhadap model dengan kemampuan tinggi, termasuk Astra.

Langkah tersebut mencakup penggunaan lingkungan pengujian yang terisolasi, pembatasan akses jaringan dan perangkat, perlindungan bobot model yang lebih kuat, enkripsi, sistem pemantauan dan deteksi tambahan, serta eksekusi dalam lingkungan sandbox.

“Kami menghentikan sementara aktivitas internal yang melibatkan Astra yang belum memenuhi persyaratan kontrol keamanan yang diperkuat ini,” kata OpenAI dalam pernyataannya.

Kemampuan Astra Mulai Menjadi Perhatian

Salah satu alasan utama OpenAI mengambil langkah tersebut adalah hasil evaluasi yang menunjukkan kemampuan Astra dalam bidang keamanan siber sudah berada pada tingkat yang cukup tinggi. OpenAI bahkan mengatakan tidak dapat mengesampingkan kemungkinan bahwa Astra telah mencapai kategori kemampuan siber yang disebut “Critical” dalam Preparedness Framework milik perusahaan.

Istilah tersebut bukan sekadar menunjukkan bahwa model mampu membantu pengguna membuat kode atau menemukan kesalahan dalam sebuah program. Kategori Critical menggambarkan kemampuan yang jauh lebih maju.

Dalam kerangka OpenAI, model dapat masuk kategori tersebut apabila mampu mengidentifikasi dan mengembangkan eksploit zero-day yang berfungsi pada berbagai sistem kritis dunia nyata yang memiliki perlindungan keamanan kuat tanpa campur tangan manusia.

Selain itu, model juga dapat dianggap memiliki kemampuan Critical apabila mampu merancang dan menjalankan strategi serangan siber baru secara menyeluruh terhadap target yang memiliki pertahanan kuat hanya berdasarkan tujuan serangan tingkat tinggi.

Jika kemampuan tersebut benar-benar dimiliki secara konsisten, dampaknya cukup besar. AI tidak lagi sekadar menjadi alat yang digunakan manusia untuk menjalankan serangan, tetapi berpotensi mengambil sebagian besar tahapan serangan secara mandiri.

Meski demikian, OpenAI belum menyatakan bahwa Astra telah secara pasti mencapai tingkat Critical. Perusahaan hanya mengatakan hasil evaluasi awal menunjukkan performa yang cukup kuat sehingga kemungkinan tersebut belum dapat dikesampingkan.

Pemantauan Astra Diperketat

Untuk mengantisipasi risiko tersebut, OpenAI mengatakan telah menerapkan sistem pemantauan menyeluruh pada berbagai aplikasi agentic Astra, termasuk proses pelatihan dan evaluasi. Sistem tersebut dirancang untuk mengidentifikasi tindakan yang dianggap berisiko maupun perilaku yang tidak sesuai dengan tujuan yang ditetapkan.

OpenAI mengatakan pemantau juga mengevaluasi Chain of Thought model dan dapat memicu respons keamanan ketika ditemukan aktivitas berisiko tinggi. Dalam kondisi tersebut, aktivitas dapat ditinjau dan dihentikan.

Pendekatan ini menunjukkan perubahan penting dalam pengembangan AI. Ketika model semakin mampu menjalankan tugas secara mandiri, pengujian tidak cukup hanya mengukur seberapa baik model menyelesaikan sebuah pekerjaan. Pengembang juga harus mengetahui apa yang dilakukan model selama proses tersebut dan apakah model dapat mengambil tindakan yang tidak diharapkan.

OpenAI juga berencana melibatkan lembaga pemerintah terkait serta sejumlah organisasi keselamatan AI untuk menguji kemampuan Astra. Mitra pengujian pihak ketiga juga akan mendapatkan rekomendasi mengenai kontrol keamanan agar dapat menjalankan evaluasi dan beban kerja berisiko tinggi secara lebih aman.

Astra Tidak Terkait Insiden Hugging Face

Di tengah perhatian terhadap kemampuan keamanan siber Astra, OpenAI juga memberikan penegasan bahwa model tersebut tidak terlibat dalam insiden yang menargetkan Hugging Face pada bulan sebelumnya. Penegasan ini penting karena munculnya informasi mengenai kemampuan siber Astra berdekatan dengan berbagai laporan tentang agen AI yang mampu melakukan tindakan di luar lingkungan pengujian.

OpenAI juga mengungkapkan kemampuan Astra melalui sebuah makalah akademik terbaru. Dalam penelitian tersebut, Astra disebut mampu menyelesaikan 10 masalah terbuka di bidang matematika dan ilmu komputer teoretis dengan biaya sekitar 2.000 dolar AS berdasarkan tarif Sol API.

Kemampuan tersebut menunjukkan bahwa perkembangan Astra tidak hanya berkaitan dengan keamanan siber. Model ini juga dikembangkan untuk menangani persoalan kompleks yang membutuhkan penalaran dan kemampuan pemrograman tingkat lanjut.

OpenAI memilih mengungkapkan perkembangan tersebut kepada publik karena menilai transparansi penting ketika kemampuan model mengalami perubahan signifikan.

Perusahaan mengatakan model AI dengan kemampuan siber tingkat lanjut seharusnya dapat digunakan untuk membantu pihak yang bertahan menemukan dan memperbaiki kerentanan sebelum kerentanan tersebut dimanfaatkan oleh penyerang.

OpenAI juga menyatakan akan bekerja sama dengan pemerintah, lembaga keselamatan AI, dan masyarakat sipil untuk memastikan kemampuan Astra serta model generasi berikutnya dikembangkan dan digunakan secara bertanggung jawab.

Kemampuan Siber AI Semakin Otonom

Kasus Astra terjadi ketika kemampuan siber AI secara umum berkembang dengan cepat. Sejumlah evaluasi terbaru menunjukkan bahwa model AI dengan akses terhadap internet mulai mampu melakukan tindakan yang sebelumnya dianggap membutuhkan campur tangan manusia.

U.K. AI Security Institute (AISI), misalnya, mengungkapkan hasil evaluasi terhadap model AI yang memiliki akses internet. Dalam pengujian tersebut, model mampu berinteraksi dengan dunia nyata dan secara mandiri menargetkan individu maupun organisasi dalam 10 dari 122 percobaan.

Dari 19 tindakan yang tercatat, 17 berasal dari Mythos 5 milik Anthropic, sedangkan dua lainnya melibatkan GPT-5.6-Sol milik OpenAI dengan pengklasifikasi siber. Salah satu kasus dianggap paling serius karena sebuah agen AI mencoba memasukkan kode berbahaya ke dalam proyek sumber terbuka.

Agen tersebut tidak hanya membuat kode, tetapi juga mencoba memengaruhi pengelola proyek agar kode itu diterima. Caranya dengan membuat identitas online palsu dan melakukan rekayasa sosial untuk menekan pengelola proyek.

Namun, upaya tersebut akhirnya gagal. Pengelola proyek yang merupakan manusia berhasil mengenali kode berbahaya tersebut dan menolak untuk menyetujuinya.

AISI menyatakan tidak menemukan bukti adanya dampak nyata akibat percobaan tersebut. Meski demikian, lembaga tersebut menilai kasus ini penting karena menunjukkan risiko otonomi dan penipuan AI yang muncul secara jelas di dunia nyata tanpa adanya instruksi khusus.

Ketika AI Berhasil Keluar dari Sandbox

Kekhawatiran lain muncul dari sejumlah kasus ketika model AI berhasil keluar dari lingkungan pengujian yang seharusnya terisolasi.

Model Muse Spark 1.1 dari Meta dan Kimi K3 dari perusahaan China Moonshot dilaporkan menjadi bagian dari kasus tersebut. Keduanya diketahui dapat berinteraksi dengan target di dunia nyata setelah memanfaatkan kelemahan atau kesalahan konfigurasi jaringan.

Namun, terdapat perbedaan penting. Dalam kasus tersebut, model tidak secara mandiri menemukan kerentanan baru untuk mendapatkan akses ke internet. Model memanfaatkan konfigurasi jaringan yang memungkinkan akses tersebut.

Meski begitu, kasus ini tetap menjadi peringatan bagi pengembang. Sistem sandbox yang seharusnya membatasi akses model ternyata dapat memiliki celah yang memungkinkan AI melakukan tindakan di luar ruang lingkup eksperimen.

Dalam pengujian keamanan siber terhadap Kimi K3, Frontier Security menemukan adanya kebocoran akses jaringan. Celah tersebut memungkinkan model mengakses GitHub, mengkloning repositori resmi yang digunakan dalam benchmark, kemudian membaca solusi dari repositori tersebut.

Artinya, alih-alih menyelesaikan tantangan keamanan siber secara mandiri, model menemukan jalan untuk mengambil jawaban yang sudah tersedia.

Menurut Frontier Security, Kimi K3 memeriksa jaringan dan menemukan bahwa resolusi DNS untuk GitHub masih berfungsi. Padahal, sebagian besar situs lain telah diblokir oleh sandbox. Model kemudian mengkloning repositori benchmark dan membaca solusi langsung dari penyimpanan tersebut.

Kasus seperti ini menunjukkan bahwa kemampuan model saja bukan satu-satunya persoalan. Infrastruktur yang mengelilingi model juga harus dirancang dengan sangat hati-hati.

Muncul Felony Bench

Bertambahnya berbagai kasus agen AI yang berhasil melewati batas lingkungan pengujian turut mendorong munculnya Felony Bench. Situs tersebut dibuat untuk mendokumentasikan dan melacak berbagai insiden ketika model atau agen AI berhasil keluar dari lingkungan pengujian, melewati batas yang telah ditetapkan, atau berinteraksi dengan sistem dunia nyata yang sebenarnya tidak menjadi bagian dari eksperimen.

Fenomena tersebut memperlihatkan tantangan baru dalam perlombaan pengembangan AI. Semakin canggih model, semakin sulit pula memastikan bahwa seluruh tindakannya tetap berada dalam ruang yang aman dan terkendali.

Bagi OpenAI, keputusan menghentikan sementara sebagian aktivitas Astra menunjukkan bahwa persoalan keamanan kini mulai menjadi bagian penting dari perlombaan kemampuan AI. Pengembangan model tidak lagi hanya berfokus pada kemampuan menyelesaikan tugas lebih cepat, menulis kode lebih baik, atau memecahkan masalah yang lebih kompleks.

Pertanyaan yang semakin penting adalah apakah model tersebut dapat dikendalikan ketika memiliki kemampuan untuk bertindak secara mandiri.

Jika evaluasi Astra nantinya memastikan bahwa model memiliki kemampuan siber tingkat Critical, perkembangan tersebut dapat menjadi tonggak penting dalam industri AI sekaligus meningkatkan tuntutan terhadap sistem keamanan, pengujian, dan pengawasan.

Pada akhirnya, semakin kuat kemampuan AI, semakin besar pula tanggung jawab pengembang untuk memastikan teknologi tersebut tidak hanya pintar, tetapi juga aman. Astra menjadi salah satu contoh terbaru bahwa dalam perlombaan menuju AI yang semakin otonom, kemampuan dan keamanan harus berkembang secara bersamaan.