AI Mulai Bikin AI, Ini yang Terjadi di Balik Self-Improvement

Kecerdasan buatan atau artificial intelligence (AI) tidak lagi hanya digunakan untuk menjawab pertanyaan, membuat gambar, menulis teks, atau membantu pekerjaan manusia. Perannya mulai berkembang ke tahap yang lebih kompleks, termasuk membantu manusia membuat, menguji, memperbaiki, dan mengembangkan sistem AI berikutnya.

Perkembangan ini kemudian memunculkan istilah recursive self-improvement (RSI) atau peningkatan kemampuan diri secara berulang. Secara sederhana, RSI menggambarkan kondisi ketika AI semakin terlibat dalam proses pengembangan AI generasi berikutnya, yang kemudian memiliki kemampuan lebih baik untuk kembali mengembangkan sistem setelahnya.

Konsep tersebut terdengar seperti sesuatu yang masih jauh dari kenyataan. Namun, perkembangan AI agent, kemampuan pemrograman otomatis, serta penelitian AI yang semakin banyak memanfaatkan AI itu sendiri membuat topik ini mulai dibahas lebih serius.

Meski demikian, penting untuk membedakan antara AI yang membantu manusia mengembangkan AI dan AI yang sepenuhnya mampu mengembangkan dirinya sendiri tanpa campur tangan manusia. Keduanya merupakan hal yang berbeda.

Saat ini, sistem AI belum menunjukkan kemampuan recursive self-improvement secara penuh. Namun, sejumlah teknologi yang menjadi bagian penting dari konsep tersebut sudah mulai terlihat.

Apa Itu Recursive Self-Improvement?

Recursive self-improvement dapat dipahami sebagai sebuah siklus peningkatan kemampuan AI yang berlangsung berulang. Bayangkan sebuah sistem AI mampu membantu peneliti membuat model AI baru. Model baru tersebut kemudian menjadi lebih baik dalam melakukan penelitian AI. Kemampuan itu digunakan lagi untuk mengembangkan model berikutnya yang lebih canggih.

Jika proses tersebut terus berlangsung dan setiap generasi menghasilkan peningkatan kemampuan yang signifikan, terbentuklah sebuah siklus perbaikan diri.

Inilah gambaran sederhana dari recursive self-improvement. Konsep ini berbeda dari sekadar AI yang melakukan pembaruan perangkat lunak. Dalam RSI, yang menjadi perhatian adalah kemampuan sistem untuk ikut meningkatkan teknologi yang menjadi dasar kemampuannya sendiri.

Karena itu, RSI sering dikaitkan dengan pertanyaan yang lebih besar mengenai masa depan AI. Jika AI dapat membantu membuat AI yang lebih baik, lalu AI yang lebih baik tersebut membantu membuat sistem yang lebih baik lagi, seberapa cepat kemampuan tersebut dapat berkembang?

Pertanyaan inilah yang membuat recursive self-improvement menjadi topik serius di kalangan peneliti.

Namun, tidak berarti kondisi tersebut sudah terjadi.

OpenAI menyatakan bahwa recursive self-improvement yang sepenuhnya otonom belum terjadi saat ini. Anthropic juga mengatakan sistemnya belum mampu secara mandiri membangun penerusnya sendiri.

Meski demikian, AI sudah digunakan untuk membantu berbagai bagian dalam proses penelitian dan pengembangan. AI dapat membantu menulis kode, menganalisis hasil eksperimen, menguji pendekatan tertentu, hingga membantu peneliti menemukan solusi terhadap masalah teknis.

Dengan kata lain, AI belum sepenuhnya membangun dirinya sendiri, tetapi sudah mulai ikut membantu manusia membangun AI.

Mengapa Topik Ini Sekarang Semakin Penting?

Sebenarnya, gagasan tentang sistem yang dapat meningkatkan kemampuannya melalui umpan balik bukanlah hal baru. Michael Littman, University Professor of Computer Science sekaligus Associate Provost for Artificial Intelligence di Brown University, mengatakan para peneliti telah mempelajari sistem yang dapat berkembang melalui mekanisme umpan balik selama puluhan tahun.

Salah satu contohnya adalah reinforcement learning. Dalam metode ini, AI belajar berdasarkan hasil dari tindakan yang dilakukannya. Sistem mendapatkan semacam penghargaan ketika mengambil tindakan yang menghasilkan hasil yang diinginkan. Dari proses berulang tersebut, AI belajar memilih tindakan yang dianggap lebih baik.

Konsep pengembangan AI yang lebih ekstrem kemudian mendapat perhatian luas melalui buku Superintelligence karya Nick Bostrom pada 2014.

Buku tersebut membahas berbagai kemungkinan masa depan ketika AI yang sudah memiliki kemampuan melakukan penelitian AI dapat membantu menciptakan sistem penerus yang semakin canggih. Kini, perkembangan AI agent membuat pembahasan tersebut terasa lebih relevan.

AI Agent Mengubah Cara AI Membantu Pemrograman

Salah satu perkembangan penting dalam teknologi AI adalah munculnya AI agent yang mampu menjalankan serangkaian tugas secara lebih mandiri. AI generatif generasi awal umumnya bekerja dengan pola sederhana. Pengguna memberikan instruksi, lalu AI memberikan jawaban. Untuk pemrograman, misalnya, pengguna meminta AI membuat sebuah fungsi dan model menghasilkan kode.

AI agent memiliki kemampuan yang lebih luas. Sistem tersebut dapat menerima tujuan yang lebih besar, kemudian memecahnya menjadi beberapa tugas. Setelah itu, AI dapat menulis kode, menjalankan program, memeriksa hasilnya, menemukan kesalahan, memperbaiki kode, dan mencoba kembali.

Michael Littman menjelaskan bahwa sistem seperti ini dapat menjalankan tugas, sub-tugas, bahkan sub-sub-tugas untuk mencapai tujuan yang lebih besar. Perubahan ini penting karena proses pengembangan perangkat lunak tidak lagi selalu membutuhkan manusia untuk memberikan instruksi pada setiap langkah.

Namun, kemampuan tersebut belum otomatis berarti AI mampu melakukan recursive self-improvement. AI yang mampu memperbaiki kode programnya sendiri belum tentu mampu menciptakan arsitektur AI baru yang secara signifikan lebih cerdas. AI yang dapat mengoptimalkan sebuah algoritma juga belum tentu mampu menentukan bagaimana membangun model AI generasi berikutnya.

Manusia Masih Memegang Peran Penting

Dalam pengembangan AI saat ini, manusia masih menjadi bagian penting dalam proses evaluasi. Gabe Goodhart, Chief Architect of AI Foundations di IBM, mengatakan banyak teknik yang digunakan saat ini masih melibatkan manusia untuk mengevaluasi saran atau hasil dari model sebelum digunakan dalam iterasi berikutnya.

Artinya, meskipun AI dapat memberikan rekomendasi, manusia masih menentukan apakah rekomendasi tersebut benar, aman, dan layak digunakan. Pola ini dapat digambarkan secara sederhana:

AI menghasilkan solusi → manusia mengevaluasi → solusi digunakan → AI membantu tahap berikutnya.

Pola tersebut memang sudah menunjukkan adanya umpan balik. Namun, belum bisa disebut sebagai recursive self-improvement yang sepenuhnya mandiri. Untuk mencapai RSI yang benar-benar otonom, AI harus mampu menjalankan sebagian besar proses tersebut tanpa ketergantungan signifikan pada manusia.

Eksperimen Mulai Dilakukan

Walaupun RSI sepenuhnya otonom belum terwujud, sejumlah perusahaan dan peneliti mulai menguji bentuk yang lebih terbatas. 

Weco AI, misalnya, melaporkan bahwa sistem AIDE² miliknya dapat memodifikasi bagian tertentu dari perangkat lunak yang digunakan untuk mengendalikan agen penelitian otomatis lainnya. Weco mengategorikan hasil tersebut sebagai Level 1 recursive self-improvement berdasarkan kerangka kerja mereka sendiri. Namun, perusahaan tersebut tidak menganggap eksperimen itu sebagai bukti bahwa telah terjadi ledakan kecerdasan yang dapat berlangsung tanpa batas.

Menurut Zhengyao Jiang, Co-founder dan CEO Weco AI, salah satu bukti penting dari eksperimen tersebut adalah kemampuan sistem melakukan generalisasi lintas tugas. Artinya, peningkatan kemampuan yang diperoleh sistem tidak hanya berlaku pada tugas yang digunakan saat proses pelatihan atau optimasi, tetapi juga dapat membantu sistem menyelesaikan tugas lain yang belum ditemuinya.

Menurut Weco AI, salah satu versi agen penelitian mereka bahkan mampu mengungguli agen yang sebelumnya telah disempurnakan manusia selama sekitar dua tahun ketika mengerjakan tugas yang belum pernah ditemui selama proses optimasi.

Jika hasil seperti ini terus berkembang, kemampuan AI untuk membantu penelitian AI dapat menjadi semakin signifikan. Namun, satu eksperimen belum cukup untuk membuktikan bahwa AI telah memasuki era recursive self-improvement secara penuh.

Bahaya Reward Hacking

Di balik potensi tersebut terdapat persoalan keamanan yang perlu diperhatikan. Salah satunya adalah reward hacking. Istilah ini merujuk pada kondisi ketika AI menemukan cara untuk memperoleh nilai penghargaan tinggi tanpa benar-benar mencapai tujuan yang dimaksudkan manusia.

Sebagai contoh sederhana, bayangkan sebuah AI diberi tugas untuk membuat program berjalan secepat mungkin. Jika sistem hanya mengejar angka kecepatan tanpa memahami tujuan sebenarnya, AI mungkin menemukan cara untuk menghasilkan angka yang terlihat bagus tanpa benar-benar membuat program menjadi lebih baik.

Masalah ini menjadi lebih serius jika AI memiliki kemampuan untuk memodifikasi alat, prompt, atau lingkungannya sendiri.

Nathalie Baracaldo, Manager of AI Security and Privacy Solutions sekaligus Senior Research Scientist di IBM, memperingatkan bahwa agen yang dapat meningkatkan dirinya sendiri berpotensi semakin mengoptimalkan tujuan yang salah pada setiap iterasi.

Jika tujuan awalnya keliru, proses perbaikan berulang justru dapat membuat kesalahan semakin besar. Inilah salah satu alasan mengapa peningkatan kemampuan AI tidak cukup hanya dinilai dari seberapa pintar sistem tersebut. Peneliti juga perlu memastikan bahwa AI memahami tujuan yang benar dan tetap berada dalam batasan keamanan yang ditetapkan manusia.

Risiko Penyalahgunaan AI

Persoalan lain adalah penyalahgunaan. Semakin canggih AI, semakin besar pula kemungkinan teknologi tersebut digunakan untuk tujuan yang merugikan. Model AI dengan kemampuan tinggi dapat dimanfaatkan untuk berbagai aktivitas berbahaya. Selain itu, AI agent yang diberi terlalu banyak kebebasan dapat melakukan tindakan yang tidak diinginkan operatornya.

Goodhart menyebut kedua risiko tersebut sebagai hal yang mengkhawatirkan. Recursive self-improvement dapat memperkuat risiko tersebut karena kemampuan AI untuk berkembang dapat membuat teknologi menjadi semakin kuat. Namun, RSI bukan satu-satunya faktor yang menentukan apakah suatu sistem AI menjadi berbahaya.

Diperlukan kombinasi berbagai faktor, seperti tingkat kemampuan model, tingkat otonomi, akses terhadap alat, akses terhadap infrastruktur, tujuan yang diberikan, serta seberapa besar pengawasan manusia. Karena itu, pembahasan mengenai RSI seharusnya tidak hanya berfokus pada pertanyaan, “Apakah AI akan menjadi supercerdas?”

Pertanyaan yang lebih praktis adalah, seberapa besar kendali yang diberikan kepada AI dan bagaimana manusia memastikan kendali tersebut tidak disalahgunakan?

Komputasi Masih Menjadi Batasan

Ada pula faktor yang sering terlupakan dalam pembahasan mengenai AI yang semakin mandiri, yaitu kebutuhan terhadap infrastruktur. Model AI canggih membutuhkan pusat data, chip pemrosesan, memori, jaringan, listrik, sistem pendingin, serta berbagai komponen lainnya. Semakin besar model yang dijalankan dan semakin banyak pekerjaan yang dilakukan, semakin besar pula kebutuhan komputasinya.

Menurut Goodhart, kebutuhan tersebut masih menjadi salah satu hambatan nyata bagi AI. Pihak yang mengoperasikan sistem AI saat ini masih mengendalikan infrastruktur yang dibutuhkan untuk menjalankan model. Mereka dapat membatasi akses, menghentikan proses inference, atau mematikan sistem.

Kondisi ini menjadi salah satu penghalang antara kemampuan AI saat ini dan skenario ekstrem mengenai AI yang berkembang tanpa kendali.

Namun, batasan tersebut bukan berarti persoalan keamanan dapat diabaikan. Kemajuan perangkat keras, efisiensi model, infrastruktur AI, dan sistem agentik dapat mengubah batasan tersebut dari waktu ke waktu.

Karena itu, pengawasan keamanan perlu berkembang seiring dengan kemampuan teknologi.

Apakah AI Akan Bisa Membangun AI yang Lebih Pintar?

Inilah pertanyaan utama yang masih belum memiliki jawaban pasti.

Saat ini, AI sudah dapat menulis kode. AI juga dapat membantu menjalankan eksperimen, menganalisis data, menemukan kesalahan, serta memberikan saran mengenai desain sistem. Tetapi kemampuan tersebut belum membuktikan bahwa AI dapat menjalankan seluruh proses penelitian AI secara mandiri.

Untuk benar-benar mencapai recursive self-improvement, diperlukan sebuah siklus yang jauh lebih kompleks.

AI harus mampu memahami kelemahan dirinya, menentukan bagaimana memperbaikinya, merancang perubahan, menerapkan perubahan tersebut, menguji hasilnya, memastikan hasilnya benar-benar lebih baik, kemudian menggunakan kemampuan baru tersebut untuk melakukan peningkatan berikutnya.

Semua proses itu juga harus berlangsung secara konsisten dan aman. Jika salah satu tahap gagal, sistem tidak otomatis menjadi lebih pintar. Bahkan, peningkatan yang salah dapat membuat sistem semakin buruk atau menghasilkan perilaku yang tidak diinginkan.

RSI Belum Terjadi, tetapi Arahnya Mulai Terlihat

Berdasarkan kondisi saat ini, recursive self-improvement yang sepenuhnya otonom masih belum terbukti. AI memang sudah membantu manusia mengembangkan AI. AI agent juga semakin mampu menjalankan tugas kompleks, termasuk pemrograman dan penelitian. Sejumlah eksperimen bahkan menunjukkan bahwa sistem dapat meningkatkan kinerjanya pada tugas tertentu.

Namun, semua itu belum sama dengan AI yang mampu secara mandiri membangun penerus yang jauh lebih canggih, kemudian menggunakan kemampuan penerus tersebut untuk membangun sistem berikutnya lagi.

Jadi, recursive self-improvement masih menjadi pertanyaan terbuka, bukan sebuah kenyataan yang sudah terjadi. Yang membuatnya penting untuk dibahas sekarang adalah semakin dekatnya beberapa komponen yang dibutuhkan untuk membentuk siklus tersebut.

AI semakin mampu membuat kode. AI semakin mampu menggunakan alat. AI semakin mampu menjalankan tugas dalam beberapa tahapan. AI juga mulai digunakan dalam penelitian dan pengembangan AI itu sendiri. Perkembangan tersebut membuat batas antara “AI sebagai alat untuk membuat AI” dan “AI sebagai pengembang AI” perlahan menjadi semakin tipis.

Tantangan Terbesarnya Bukan Sekadar Membuat AI Lebih Pintar

Perdebatan mengenai recursive self-improvement pada akhirnya bukan hanya tentang seberapa pintar AI dapat menjadi. Persoalan yang tidak kalah penting adalah bagaimana memastikan manusia tetap mampu memahami dan mengendalikan sistem ketika tingkat otonominya meningkat.

AI yang semakin mampu memperbaiki dirinya dapat membawa manfaat besar. Proses penelitian bisa menjadi lebih cepat, pengembangan perangkat lunak lebih efisien, dan penemuan teknologi baru dapat berlangsung dengan lebih cepat.

Namun, kemampuan tersebut juga membawa risiko jika sistem mengoptimalkan tujuan yang salah, membuat keputusan tanpa pengawasan, atau digunakan oleh manusia untuk tujuan berbahaya.

Karena itu, perkembangan AI perlu berjalan bersamaan dengan pengembangan mekanisme keamanan, evaluasi, pengawasan manusia, dan batasan akses. Untuk saat ini, AI belum berada pada tahap mampu membangun dan menggantikan dirinya sendiri secara penuh. Tetapi arah perkembangannya sudah cukup untuk membuat para peneliti mulai mengajukan pertanyaan serius.

Jika AI dapat membantu manusia membuat AI yang lebih baik, lalu siapa yang mengawasi proses ketika AI mulai menjadi salah satu pihak yang ikut merancang masa depannya sendiri?

Pertanyaan tersebut mungkin menjadi salah satu isu terpenting dalam perkembangan kecerdasan buatan pada tahun-tahun mendatang.