OpenAI Rilis Agents API, Bikin Agen AI Makin Mandiri di Cloud

OpenAI resmi memperkenalkan Agents API, sebuah antarmuka pemrograman aplikasi yang memungkinkan pengembang membangun dan menjalankan agen Artificial Intelligence (AI) di cloud. Layanan ini hadir dalam tahap public beta dengan membawa teknologi harness yang digunakan untuk mendukung Codex.

Agents API dirancang untuk menjawab kebutuhan pengembang yang ingin membuat agen AI mampu bekerja dalam waktu lama dan menangani tugas kompleks secara lebih mandiri. Menurut OpenAI, pengembangan Codex dan ChatGPT for Work yang telah digunakan jutaan orang memberikan banyak pelajaran mengenai infrastruktur yang dibutuhkan agar agen AI dapat bekerja secara konsisten.

Berbeda dengan chatbot yang umumnya hanya merespons pertanyaan pengguna, agen AI dapat menjalankan serangkaian tugas menggunakan berbagai alat. Agen dapat mengakses file, menjalankan kode, mengolah informasi, hingga mengoordinasikan pekerjaan dengan agen AI lain.

Namun, kemampuan tersebut membutuhkan sistem pendukung yang lebih kompleks. Agen harus mampu mempertahankan konteks selama sesi panjang, memilih alat yang tepat, serta menjalankan berbagai proses secara efisien. Karena itu, OpenAI menghadirkan Agents API dengan harness dan infrastruktur yang sebelumnya digunakan untuk menjalankan Codex.

Dirancang untuk Agen AI yang Bekerja dalam Waktu Lama

OpenAI menyebut agen AI yang bermanfaat membutuhkan harness yang mampu mengatur berbagai aspek pekerjaan. Sistem ini bertugas mengelola konteks, membantu agen menggunakan alat, serta mengoordinasikan pekerjaan yang dilakukan oleh subagent.

Infrastruktur juga menjadi bagian penting. Agen yang bekerja dalam hitungan jam atau bahkan berhari-hari membutuhkan lingkungan komputasi yang dapat berjalan secara andal. Lingkungan tersebut harus memungkinkan agen bekerja dengan file, menjalankan program, dan menyimpan hasil sementara selama proses berlangsung.

Agents API mencoba menyederhanakan kebutuhan tersebut sehingga pengembang tidak harus membangun seluruh sistem pendukung dari awal.

Dukungan terhadap subagent juga menjadi salah satu kemampuan yang mendapat perhatian. Jack Weissenberger, Chief Technology Officer (CTO) Ciridae, mengatakan penggunaan Agents API membuat skor evaluasi perusahaannya meningkat dari 0,71 menjadi 0,85.

Menurut Weissenberger, dukungan subagent dalam Agents API juga mempercepat alur kerja secara signifikan. Sistem sebelumnya dinilai cukup rumit untuk mengamati dan mengatur pekerjaan beberapa agen. Setelah menggunakan API baru, Ciridae menyebut latensi dapat berkurang hingga empat kali lipat.

Pengembang Bisa Memilih Lingkungan Sandbox

OpenAI menyadari bahwa setiap aplikasi memiliki kebutuhan komputasi yang berbeda. Karena itu, Agents API memungkinkan pengembang memilih lingkungan sandbox sesuai dengan kebutuhan aplikasinya.

Sandbox merupakan lingkungan terisolasi yang memungkinkan agen menjalankan kode dan bekerja dengan file tanpa harus beroperasi langsung pada sistem utama. Pengembang dapat memilih konfigurasi yang sesuai berdasarkan kebutuhan komputasi, penyimpanan, keamanan, hingga biaya.

OpenAI menggandeng sejumlah penyedia infrastruktur dan layanan teknologi, di antaranya Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop, dan Vercel.

Integrasi tersebut dirancang untuk mendukung berbagai skenario. Pengembang dapat memilih lingkungan yang dikelola sepenuhnya atau menerapkannya di dalam Virtual Private Cloud (VPC) perusahaan.

Selain itu, tersedia pilihan mekanisme penyimpanan file dan secret, serta berbagai konfigurasi CPU, GPU, dan memori. Perbedaan konfigurasi tersebut memungkinkan perusahaan menyesuaikan performa, waktu cold start, dan biaya dengan karakteristik aplikasi yang dibangun.

OpenAI Sediakan Hosted Sandbox

Untuk pengembang yang ingin memulai dengan lebih cepat, OpenAI juga menyediakan OpenAI hosted sandbox. Lingkungan ini menggunakan infrastruktur sandbox yang sama dengan yang digunakan untuk mendukung Codex dan ChatGPT. OpenAI bertanggung jawab menyediakan serta mengelola lingkungan tersebut.

Dalam sandbox ini, agen dapat menjalankan kode, mengakses file, dan menghasilkan artefak sebagai bagian dari proses penyelesaian tugas. Pengembang juga dapat menyesuaikan sandbox dengan file, package, skill, dan plugin yang dibutuhkan agen.

Dengan pendekatan tersebut, pengembang tidak harus membangun sendiri seluruh infrastruktur yang diperlukan untuk menjalankan agen AI. Mereka dapat lebih fokus pada logika aplikasi dan jenis pekerjaan yang ingin diselesaikan oleh agen.

Agen Bisa Bekerja Lebih Lama

Salah satu tantangan dalam membangun agen AI adalah menjaga konteks ketika sebuah tugas berlangsung dalam waktu lama. Model AI memiliki batas jumlah informasi yang dapat diproses dalam satu konteks.

Untuk mengatasi masalah tersebut, Agents API memiliki sistem pengelolaan konteks yang dirancang untuk sesi panjang. Ketika sebuah sesi mulai mendekati batas konteks, sistem secara otomatis melakukan compaction. Secara sederhana, proses ini dapat dipahami sebagai pemadatan atau peringkasan informasi dari percakapan dan pekerjaan sebelumnya dengan tetap mempertahankan informasi penting.

Dengan mekanisme tersebut, agen dapat melanjutkan pekerjaan meskipun tugasnya berlangsung melewati beberapa jendela konteks. Pengembang pun tidak perlu membuat sistem compaction sendiri.

Penggunaan Tools Lebih Efisien

Agents API juga dirancang agar agen dapat menggunakan lebih banyak alat tanpa membuat penggunaan token menjadi tidak efisien. Salah satu fiturnya adalah tool search, yang memungkinkan agen memuat definisi alat yang relevan hanya ketika dibutuhkan. Pendekatan ini dapat membantu mengurangi penggunaan token dan biaya, sekaligus menjaga cache model.

Setelah alat yang diperlukan tersedia, fitur programmatic tool calling memungkinkan agen menjalankan beberapa panggilan alat secara paralel. Agen juga dapat menghubungkan beberapa operasi yang saling berkaitan serta menyaring atau menggabungkan hasil melalui kode.

Hal ini penting ketika agen harus mengolah data dalam jumlah besar. Alih-alih memasukkan seluruh hasil ke dalam konteks model, agen dapat memproses dan menyaring data terlebih dahulu sehingga hanya informasi yang relevan yang dikembalikan ke konteks.

Agents API mendukung Model Context Protocol (MCP), fungsi khusus buatan pengembang, serta alat bawaan seperti web search.

Tugas Kompleks Bisa Dibagi ke Banyak Subagent

Kemampuan multi-agent menjadi fitur lain yang ditawarkan Agents API. Dengan fitur ini, agen utama dapat memecah tugas kompleks menjadi beberapa pekerjaan yang lebih kecil dan menyerahkannya kepada subagent. Subagent kemudian dapat mengerjakan tugas masing-masing secara paralel. Setiap subagent memiliki konteks sendiri sehingga dapat tetap fokus pada pekerjaan yang diberikan.

Setelah pekerjaan selesai, agen utama mengoordinasikan dan menggabungkan hasil dari seluruh subagent.

Model kerja seperti ini berpotensi mempercepat berbagai pekerjaan yang memang dapat dilakukan secara bersamaan, termasuk riset, analisis, dan pemrograman. Pengembang juga tidak perlu membangun sistem orkestrasi multiagen dari awal.

Menggunakan Fondasi Open Source

Di balik Agents API terdapat Codex harness yang bersifat open source. Hal ini memberikan kesempatan bagi pengembang untuk mempelajari bagaimana sistem mengatur pemanggilan model, penggunaan tools, dan pengelolaan konteks.

Meski OpenAI yang mengoperasikan dan memelihara harness tersebut dalam Agents API, pengembang tetap dapat melihat dan mempelajari kode sumber publiknya. Langkah ini juga memberikan gambaran mengenai pendekatan OpenAI dalam membangun sistem agen AI yang mampu menangani pekerjaan kompleks secara lebih terstruktur.

Sudah Tersedia dalam Public Beta

Agents API kini tersedia dalam tahap public beta bagi seluruh pengembang. OpenAI mengatakan tidak ada biaya tambahan khusus untuk menggunakan layanan tersebut. Pengembang akan membayar berdasarkan jumlah token dan tools yang digunakan oleh agen, mengikuti skema harga yang berlaku.

OpenAI juga menyediakan dokumentasi overview dan panduan quickstart bagi pengembang yang ingin mulai mencoba Agents API. Melalui layanan ini, teknologi harness yang digunakan di balik Codex dapat dimanfaatkan untuk membangun agen AI sendiri.

Selama masa public beta, OpenAI berencana terus mengembangkan Agents API berdasarkan masukan dari para pengembang. Perusahaan ingin mengetahui fitur yang sudah berjalan baik, kendala yang masih ditemui, serta kebutuhan yang diperlukan untuk menjalankan agen AI dalam lingkungan produksi.

Dengan peluncuran ini, OpenAI tidak sekadar menawarkan API untuk memanggil model AI. Agents API membawa seperangkat infrastruktur yang dirancang untuk membuat agen mampu bekerja lebih lama, menggunakan berbagai tools, membagi pekerjaan kepada subagent, serta menjalankan tugas kompleks secara lebih terstruktur.

Bagi pengembang, pendekatan tersebut dapat memangkas sebagian pekerjaan teknis dalam membangun sistem agen AI dari nol, sekaligus membuka peluang untuk menciptakan aplikasi yang lebih mampu bekerja secara mandiri.