Robot GEN-1.5 Bisa Belajar Tugas Baru Hanya dari Satu Contoh

Mengajarkan robot melakukan pekerjaan baru biasanya membutuhkan pemrograman khusus dan proses pelatihan yang tidak sebentar. Generalist AI mencoba mengubah pola tersebut melalui GEN-1.5, model kecerdasan buatan (AI) yang diklaim mampu mempelajari sejumlah keterampilan fisik hanya dengan melihat satu kali demonstrasi.

Kemampuan tersebut dikenal sebagai one-shot learning, yakni kemampuan mempelajari tugas baru dari satu contoh. Yang membuatnya menarik, GEN-1.5 dapat langsung mencoba melakukan tugas setelah melihat demonstrasi tanpa perlu menjalani pembaruan parameter atau gradient update terlebih dahulu.

Generalist AI menyebut GEN-1.5 sebagai model pertama yang mereka ketahui mampu menunjukkan kemampuan one-shot dan few-shot learning untuk keterampilan fisik dalam berbagai tugas.

Meski tingkat keberhasilannya belum sempurna dan tugas yang diuji masih relatif sederhana, pendekatan ini menunjukkan arah baru dalam pengembangan robot serbaguna. Robot berpotensi diajari pekerjaan baru dengan cara yang lebih mirip manusia, yakni cukup melihat contoh dan kemudian mencoba melakukannya.

Belajar dari Physical Prompt

GEN-1.5 merupakan model multimodal yang memproses video bersama informasi lain dari sensor, bahasa, serta proprioception, yaitu data mengenai posisi dan pergerakan tubuh robot. Model tersebut mampu menghasilkan rangkaian tindakan hingga 100 kali per detik dan menyimpan konteks selama sekitar 30 detik.

Dalam sistem GEN-1.5, demonstrasi singkat berdurasi tiga hingga 12 detik dapat dimasukkan ke dalam memori model. Generalist AI menyebut demonstrasi tersebut sebagai physical prompt. Setelah menerima contoh, robot langsung mencoba menjalankan tugas. Tidak ada proses pelatihan tambahan yang dilakukan terlebih dahulu.

Physical prompt dapat berasal dari manusia yang menggunakan gripper genggam ataupun dari rekaman gerakan robot sendiri.

Generalist AI mengatakan GEN-1.5 tidak menggunakan perubahan arsitektur khusus untuk mendorong pembelajaran berdasarkan konteks. Model tersebut juga tidak menggunakan meta-learning loop atau tujuan tambahan yang secara khusus dirancang agar robot mampu berimprovisasi.

Menurut perusahaan, kemampuan tersebut kemungkinan muncul karena model telah menemukan pola tertentu selama proses pretraining. Pola tersebut bisa berkaitan dengan gerakan berulang yang banyak ditemukan dalam pekerjaan fisik. Konsepnya memiliki kemiripan dengan model bahasa. Ketika model bahasa menemukan pola tertentu dalam konteks, model dapat menggunakannya untuk memperkirakan kelanjutan rangkaian informasi.

Tingkat Keberhasilan One-Shot 59 Persen

Untuk mengetahui kemampuan GEN-1.5, Generalist AI mengujinya pada 10 tugas fisik. Dengan metode one-shot in-context prompting tanpa gradient update, model mencapai tingkat keberhasilan rata-rata 59 persen, dengan standar deviasi 10 poin persentase.

Angka tersebut meningkat cukup signifikan ketika model diberikan lebih banyak contoh. Melalui metode few-shot learning menggunakan sekitar 50 demonstrasi dan 10 langkah gradient berdasarkan data selama lima menit, tingkat keberhasilan rata-rata mencapai 83 persen.

Tugas yang diuji mencakup berbagai aktivitas manipulasi sederhana. Robot diminta mengambil uang dari dompet, membuka tutup stoples kaca, melipat kertas, menumpuk dua gelas, menyapu sampah menggunakan sikat, serta membuka buku.

Robot juga diuji untuk mendorong kubus ke dalam mangkuk, membalik ponsel, membuka ritsleting tempat pensil, dan melepaskan bantalan vakum.

Hasil tersebut menunjukkan bahwa one-shot learning belum sepenuhnya dapat menggantikan pelatihan tambahan. Namun, kemampuan mencapai keberhasilan hampir 60 persen hanya dengan satu demonstrasi menjadi indikator bahwa model robot mulai mampu belajar dengan cara yang lebih fleksibel.

Hasil dari Delapan Bulan Pretraining

Kemampuan GEN-1.5 merupakan hasil dari proses pengembangan yang berlangsung selama berbulan-bulan. Generalist AI mengatakan pretraining GEN-1.5 berjalan secara berkelanjutan selama lebih dari delapan bulan dalam tiga fase pelatihan.

Sebelumnya, perusahaan telah memperkenalkan GEN-0 dan GEN-1. GEN-0 menunjukkan pola peningkatan kemampuan selama pretraining. Sementara GEN-1 dapat menjalani post-training hingga mencapai tingkat keberhasilan lebih dari 99 persen pada tugas tertentu. GEN-1 juga mulai menunjukkan kemampuan improvisasi dalam menjalankan tugas.

Pada GEN-1.5, kebutuhan untuk menyesuaikan model dengan tugas baru terus menurun seiring berlangsungnya pretraining. Jika sebelumnya dibutuhkan ratusan langkah gradient, kebutuhan tersebut turun menjadi puluhan langkah dan kemudian hanya satu langkah gradient menggunakan data selama satu menit.

Penurunan kebutuhan tersebut kemudian mendorong Generalist AI menguji apakah model dapat beradaptasi tanpa gradient update sama sekali. Hasil pengujian itulah yang kemudian menunjukkan kemampuan one-shot learning berbasis konteks.

Bisa Menggabungkan Beberapa Demonstrasi

GEN-1.5 tidak hanya mampu memanfaatkan satu demonstrasi. Beberapa physical prompt juga dapat digabungkan dalam satu konteks. Dalam salah satu pengujian, robot diberikan dua demonstrasi berbeda. Demonstrasi pertama memperlihatkan cara membuka ritsleting tempat pensil, sedangkan demonstrasi kedua menunjukkan cara mengambil uang dari dalamnya.

GEN-1.5 mampu menggabungkan kedua demonstrasi tersebut menjadi satu rangkaian pekerjaan. Robot bahkan menghasilkan gerakan untuk mengatur ulang posisi dan memperbaiki kesalahan yang tidak terdapat dalam rekaman demonstrasi.

Generalist AI menyebut pendekatan tersebut sebagai physical prompt engineering. Prinsipnya mirip dengan menggabungkan beberapa instruksi dalam prompt AI untuk menyelesaikan tugas yang lebih panjang. Pendekatan ini berpotensi membuat demonstrasi singkat menjadi semacam kumpulan keterampilan yang dapat dikombinasikan untuk menjalankan pekerjaan yang lebih kompleks.

Dari Simulator ke Robot Nyata

Kemampuan belajar berdasarkan konteks GEN-1.5 juga diuji untuk melihat apakah pengetahuan dari lingkungan simulasi dapat diterapkan pada dunia nyata. Dalam eksperimen tersebut, demonstrasi dibuat sepenuhnya di dalam simulator. Menariknya, meski data video dan dinamika simulasi tidak termasuk dalam data pretraining GEN-1.5, demonstrasi itu dapat digunakan sebagai physical prompt bagi robot nyata.

Robot kemudian mampu melakukan tugas yang setara di lingkungan fisik. Generalist AI juga melaporkan bahwa perilaku robot dapat diterapkan pada jenis tangan berbeda serta objek dengan posisi dan ukuran berbeda.

Dalam pengujian lain, manusia menunjukkan cara melakukan sebuah tugas menggunakan tangannya sendiri di depan kamera robot. Setelah melihat demonstrasi tersebut, robot kemudian mencoba melakukan tindakan serupa menggunakan tangannya sendiri.

Fine-Tuning Lebih Cepat

Selain one-shot learning, Generalist AI menguji kemampuan GEN-1.5 melalui fine-tuning ringan menggunakan gradient descent. Pada model robot sebelumnya, mempelajari tugas baru dapat membutuhkan puluhan ribu langkah gradient. GEN-1.5 membutuhkan jauh lebih sedikit.

Model tersebut dapat beradaptasi hanya dengan 1 hingga 10 langkah gradient menggunakan data selama satu hingga lima menit. Jumlah tersebut setara dengan sekitar 10 hingga 50 demonstrasi. Setelah 10 langkah gradient, perubahan bobot model pada tugas yang tidak digunakan dalam pelatihan tercatat kurang dari 0,15 persen.

Dalam skenario satu langkah gradient menggunakan data selama satu menit, GEN-1.5 mencapai tingkat keberhasilan 66,5 persen pada tugas yang tidak digunakan dalam pelatihan. Generalist AI juga mengatakan tingkat keberhasilan dapat meningkat dengan penggunaan ukuran batch dan learning rate yang lebih besar.

Robot Bisa Mengganti Sikat dengan Pisang

Salah satu demonstrasi paling menarik menunjukkan kemampuan GEN-1.5 beradaptasi terhadap benda yang tidak pernah diperlihatkan dalam pelatihan. Model awalnya menjalani fine-tuning menggunakan lima menit demonstrasi manusia yang menunjukkan cara menyapu balok ke dalam mangkuk menggunakan sikat.

Ketika sikat diganti dengan pisang, robot menggunakan pisang sebagai pengganti sikat untuk menyelesaikan tugas. Ketika diberikan pengki, robot mengambil pendekatan berbeda. Robot menggunakan pengki untuk mengangkat balok dan kemudian menuangkannya ke dalam mangkuk.

Generalist AI melakukan pencarian terhadap 1.891.392 adegan dalam data pretraining. Menurut perusahaan, tidak ditemukan contoh yang mirip dengan cara penggunaan pengki tersebut. Improvisasi juga muncul pada tugas lainnya. Robot yang dilatih memasukkan balok ke mangkuk dapat menyingkirkan kertas yang menutupi mangkuk sebelum menyelesaikan pekerjaan. Dalam beberapa kasus, robot bahkan mengembalikan kertas setelah tugas selesai.

Ketika balok Lego menempel pada jari robot, model menggunakan tangan lainnya untuk melepaskannya. Model yang dilatih membuka tutup stoples dengan satu tangan juga terkadang memilih menggunakan kedua tangan. Kemampuan improvisasi tersebut, menurut Generalist AI, lebih sering muncul ketika jumlah langkah gradient dalam fine-tuning dikurangi. Model yang hanya mengalami sedikit penyesuaian cenderung tetap mempertahankan perilaku yang diperoleh selama pretraining.

Selangkah Menuju Robot Serbaguna

Perkembangan GEN-1.5 dapat menjadi langkah penting menuju robot yang lebih mudah diajarkan. Selama ini, robot serbaguna masih membutuhkan programmer atau teknisi ahli untuk mengajarkan setiap pekerjaan baru. Proses tersebut dapat memakan waktu berminggu-minggu hingga berbulan-bulan.

Konsep mengajarkan robot melalui demonstrasi sebenarnya bukan hal baru. Metode teach-by-guiding telah digunakan sejak masa awal robotika, termasuk pada robot Unimate yang dipatenkan pada 1954 dan proyek Copy Demo dari MIT pada 1970.

Perbedaannya, GEN-1.5 mencoba menggabungkan konsep tersebut dengan kemampuan AI modern. Robot tidak sekadar meniru gerakan, tetapi mencoba memahami pola tindakan dan menyesuaikannya dengan kondisi yang dihadapi.

Meski demikian, Generalist AI menegaskan bahwa one-shot learning masih memiliki keterbatasan. Keterampilan yang dipelajari hanya dari konteks lebih rentan gagal dibandingkan keterampilan yang diperoleh melalui fine-tuning. Artinya, GEN-1.5 belum membuat robot dapat melakukan semua pekerjaan hanya dengan satu contoh. Namun, teknologi tersebut menunjukkan perubahan penting dalam cara robot dapat belajar.

Jika kemampuan ini terus berkembang, proses mengajarkan robot di masa depan mungkin tidak lagi selalu dimulai dari pemrograman. Manusia cukup memperlihatkan sebuah contoh, sementara AI membantu robot memahami tindakan, menyesuaikannya dengan lingkungan, dan mencoba menyelesaikan pekerjaan secara mandiri.