OpenAI Kembangkan GPT-Rosalind-6, AI untuk Riset Biologi dan Obat

OpenAI menghadirkan GPT-Rosalind-6, model kecerdasan buatan yang dirancang untuk membantu penelitian biologi, penemuan obat, dan kedokteran translasi. Model ini menawarkan kemampuan analisis ilmiah yang lebih tinggi dibandingkan pendahulunya, GPT-Rosalind-5.5. Namun, aksesnya dibatasi untuk peneliti dan organisasi yang telah memenuhi persyaratan keamanan.

Peluncuran GPT-Rosalind-6 menjadi bagian dari upaya OpenAI mengembangkan AI yang dapat membantu penelitian ilmiah tingkat lanjut tanpa mengabaikan risiko penyalahgunaan. Model ini memiliki kemampuan yang lebih luas dalam menjawab pertanyaan biologi yang dapat digunakan untuk tujuan ganda, tetapi tetap dilengkapi mekanisme perlindungan terhadap permintaan yang berpotensi menimbulkan bahaya serius.

OpenAI menjelaskan bahwa model GPT-Rosalind-6 menggunakan bobot yang sama dengan GPT-6 Astra, model penalaran andalan perusahaan. Meski demikian, GPT-Rosalind-6 dirancang dengan pendekatan penerapan yang berbeda, terutama untuk mendukung penelitian ilmu hayati yang membutuhkan kemampuan analisis lebih mendalam.

OpenAI menyediakan model tersebut melalui layanan GPT-Rosalind-6 Research. Layanan ini ditujukan bagi ilmuwan, lembaga penelitian, perusahaan, dan mitra pemerintah yang telah disetujui.

Sebelum memberikan akses, OpenAI meninjau tujuan penggunaan yang diajukan, kontrol keamanan, serta praktik tata kelola pemohon. Organisasi yang ingin menggunakan model ini harus menunjukkan bahwa mereka menjalankan penelitian ilmiah yang sah dan memiliki sistem pengawasan keselamatan yang memadai.

Kemampuan GPT-Rosalind-6 Meningkat dalam Tiga Evaluasi

Salah satu temuan utama dalam kartu sistem GPT-Rosalind-6 adalah peningkatan kinerja dibandingkan GPT-Rosalind-5.5 pada tiga evaluasi penelitian ilmu hayati. OpenAI menguji kedua model menggunakan tiga tolok ukur yang mencakup kimia medis, genomik dan biologi kuantitatif, serta penelitian ilmu hayati terapan.

Dalam evaluasi kimia medis menggunakan MedChemBench v7, GPT-Rosalind-6 memperoleh skor rata-rata 49,6 persen. Angka ini lebih tinggi dibandingkan GPT-Rosalind-5.5 yang mencatat 28,9 persen. Evaluasi tersebut menguji kemampuan model dalam menafsirkan struktur kimia, memahami hubungan antara struktur dan aktivitas, serta memprediksi potensi dan toksisitas obat.

Kedua model diuji menggunakan 99 soal yang sama. Pada anggaran penalaran tertinggi yang diuji, GPT-Rosalind-6 menunjukkan hasil yang lebih baik dalam menyelesaikan tugas-tugas tersebut.

Peningkatan juga terlihat pada evaluasi genomik dan biologi kuantitatif menggunakan GeneBench Pro v13. Tolok ukur ini menguji kemampuan model dalam merencanakan dan melaksanakan analisis kuantitatif terhadap data biologis.

GPT-Rosalind-6 mencatat tingkat keberhasilan satu kali percobaan sebesar 37,7 persen. Sementara itu, GPT-Rosalind-5.5 hanya mencapai 16,7 persen. Evaluasi ini menggunakan 129 soal yang sama untuk kedua model. Hasil tersebut menunjukkan peningkatan kemampuan GPT-Rosalind-6 dalam menyelesaikan tugas analisis data biologis.

Pada evaluasi penelitian ilmu hayati terapan menggunakan LifeSciBench Gold, GPT-Rosalind-6 memperoleh skor rata-rata 61,3 persen, dibandingkan 44 persen pada GPT-Rosalind-5.5. Tolok ukur ini menggunakan tugas penelitian yang disumbangkan oleh ilmuwan ilmu hayati yang aktif melakukan penelitian.

OpenAI mengecualikan enam soal yang memiliki kemungkinan masalah pada tugas atau lingkungan evaluasi. Kedua model kemudian dibandingkan menggunakan 94 soal yang tersisa. 

Secara keseluruhan, hasil tersebut menunjukkan bahwa GPT-Rosalind-6 memiliki kemampuan lebih baik dalam berbagai tugas penelitian ilmu hayati dibandingkan pendahulunya. Namun, OpenAI menegaskan bahwa evaluasi tersebut menggunakan konfigurasi dan metode penilaian tertentu. Hasilnya tidak serta-merta menggambarkan seluruh kemampuan model dalam penggunaan nyata.

OpenAI Nilai Kemampuan Biologis GPT-Rosalind-6

Selain menguji kemampuan yang bermanfaat untuk penelitian, OpenAI juga melakukan evaluasi untuk menilai potensi risiko GPT-Rosalind-6. Penilaian ini menggunakan Preparedness Framework, kerangka kerja OpenAI untuk memantau dan mempersiapkan diri menghadapi kemampuan AI yang dapat menimbulkan risiko bahaya serius.

Dalam bidang Biologi dan Kimia, GPT-Rosalind-6 dikategorikan memiliki kemampuan Tinggi atau High. Namun, model ini belum mencapai ambang batas kemampuan Kritis atau Critical. OpenAI menggunakan empat evaluasi kemampuan Tinggi dan empat evaluasi kemampuan Kritis untuk mencapai kesimpulan tersebut.

Evaluasi kemampuan Tinggi menguji pengetahuan laboratorium basah serta kemampuan mengatasi masalah dalam eksperimen. Sementara itu, evaluasi kemampuan Kritis menilai kemampuan desain biologis yang berpotensi membantu seorang ahli mengembangkan ancaman baru yang sangat berbahaya.

OpenAI menjelaskan bahwa evaluasi tersebut hanya memberikan bukti mengenai kemampuan tertentu. Pengujian itu bukan penilaian menyeluruh terhadap seluruh kemampuan model dalam menimbulkan bahaya biologis. Ambang batas kemampuan Kritis juga masih berupa perkiraan awal berdasarkan penilaian ahli. Nilainya dapat berubah seiring penyempurnaan metode evaluasi.

Dalam pengujian yang dilakukan, GPT-Rosalind-6 melampaui ambang batas indikatif kemampuan Tinggi pada tiga dari empat evaluasi setelah skor disesuaikan dengan penolakan keselamatan.

Karena itu, OpenAI tetap mengategorikan model ini sebagai model dengan kemampuan Tinggi dalam bidang Biologi dan Kimia. Dibandingkan dengan GPT-Rosalind-5.5, hasil GPT-Rosalind-6 lebih tinggi pada tiga evaluasi dan lebih rendah pada evaluasi pengetahuan risiko biologis.

OpenAI juga menguji kemampuan model dalam memprediksi pengemasan kapsid AAV, fungsi protein SHP2, kemampuan coronavirus memasuki sel melalui ACE2, serta koevolusi fag-plasmid. Evaluasi tersebut digunakan untuk menilai kemampuan desain biologis yang dapat membantu penelitian, tetapi juga berpotensi digunakan untuk tujuan ganda.

Dalam pengujian prediksi pengemasan kapsid AAV, misalnya, kemampuan model dapat membantu mengurangi proses coba-coba dalam rekayasa vektor virus.

Sementara itu, prediksi fungsi protein SHP2 digunakan untuk menilai kemampuan model dalam memahami bagaimana perubahan urutan protein dapat memengaruhi fungsinya.

Untuk evaluasi masuknya coronavirus ke sel melalui ACE2, OpenAI menggunakan data akademik yang sudah ada tetapi belum dipublikasikan. Eksperimen yang mendasarinya menggunakan pseudovirus yang tidak mampu bereplikasi.

OpenAI menegaskan bahwa eksperimen tersebut tidak memperkenalkan mutasi baru maupun menghasilkan keturunan virus yang infeksius. Hasil dari empat evaluasi kemampuan Kritis menunjukkan bahwa tidak satu pun mencapai ambang batas indikatifnya.

Meski demikian, OpenAI juga mengandalkan evaluasi tambahan dari model induk GPT-6 Astra dan penilaian kemampuan biologis eksternal untuk melengkapi hasil pengujian.

Kemampuan Keamanan Siber Masuk Kategori Kritis

Walaupun GPT-Rosalind-6 dikategorikan memiliki kemampuan Tinggi dalam bidang Biologi dan Kimia, penilaian OpenAI menunjukkan tingkat kemampuan yang berbeda dalam bidang keamanan siber. OpenAI mengategorikan GPT-Rosalind-6 sebagai model dengan kemampuan Kritis dalam bidang keamanan siber.

Penilaian tersebut mengacu pada evaluasi Preparedness GPT-6 Astra yang sudah ada, mengingat GPT-Rosalind-6 menggunakan bobot model yang sama. OpenAI juga menguji ketahanan model terhadap teknik jailbreak keamanan siber yang telah diidentifikasi sebelumnya. Pengujian dilakukan dengan mengulangi sembilan serangan yang diketahui pada sepuluh tugas ExploitBench yang telah ditetapkan.

Dalam pengujian tersebut, pemblokiran keamanan siber secara waktu nyata dinonaktifkan. Dengan demikian, hasilnya hanya mencerminkan perilaku model tanpa bantuan mekanisme pemblokiran tersebut. OpenAI juga menjelaskan bahwa GPT-Rosalind-6 mempertahankan mekanisme perlindungan keamanan siber dari GPT-6 Astra dan menerapkan batas penolakan yang lebih konservatif.

Model dirancang untuk menolak permintaan yang secara jelas memfasilitasi aktivitas siber tanpa izin, merusak, atau berbahaya. Aktivitas tersebut mencakup penyebaran malware, pencurian kredensial, dan eksfiltrasi data.

Sementara itu, dalam bidang peningkatan kemampuan AI secara mandiri, GPT-6 Astra tidak mencapai ambang batas kemampuan Tinggi. OpenAI menggunakan penilaian tersebut sebagai acuan untuk GPT-Rosalind-6.

Akses Dibatasi untuk Penelitian yang Sah

OpenAI menerapkan mekanisme perlindungan tambahan pada GPT-Rosalind-6 dibandingkan GPT-6 Astra. Model ini hanya tersedia bagi pelanggan yang telah disetujui melalui mekanisme akses tepercaya. Organisasi pemohon harus menunjukkan bahwa mereka menjalankan penelitian ilmu hayati yang sah, memiliki tujuan penggunaan yang dapat dipercaya, serta menerapkan tata kelola dan pengawasan keselamatan yang sesuai.

Untuk pemohon nonpemerintah, OpenAI juga melakukan verifikasi bisnis dan pemeriksaan kepatuhan. Pemeriksaan ini bertujuan memastikan keaslian pemohon sekaligus mengurangi risiko akses oleh pihak yang menggunakan identitas palsu, sulit ditelusuri, atau tidak memenuhi persyaratan.

Sementara itu, pemohon pemerintah dapat menggunakan jalur akses tepercaya yang disediakan bagi lembaga tertentu dengan tujuan yang telah disetujui, seperti keamanan biologis, keselamatan biologis, kesiapsiagaan kesehatan masyarakat, dan pertahanan biologis.

Pelanggan perusahaan yang telah disetujui juga harus membatasi akses model hanya kepada pengguna yang berwenang dan memiliki kebutuhan yang sah. Mereka wajib menerapkan kontrol akses dengan hak minimum yang diperlukan, proses orientasi pengguna yang sesuai, serta pengendalian risiko dari pihak internal.

Selain itu, pelanggan harus memastikan adanya peninjauan oleh tenaga ahli yang memenuhi kualifikasi sebelum keluaran model digunakan untuk eksperimen, publikasi, atau pengambilan keputusan penting. OpenAI menegaskan bahwa peluncuran GPT-Rosalind-6 tidak memperluas kriteria kelayakan di luar pengumuman sebelumnya, termasuk Rosalind Academic Plan.

Mekanisme Perlindungan Mencakup Pemantauan dan Pembatasan Akses

OpenAI menjelaskan bahwa pendekatan perlindungan GPT-Rosalind-6 memiliki empat komponen utama.

• Pertama, kontrol akses tepercaya untuk penggunaan ilmu hayati berkemampuan tinggi yang telah diverifikasi.
• Kedua, batasan pada tingkat model terhadap bantuan biologis dan siber yang berbahaya.
• Ketiga, mekanisme pemantauan dan penegakan yang dirancang untuk mendeteksi penyalahgunaan.
• Keempat, persyaratan kontraktual tambahan untuk meningkatkan keamanan.

Dalam bidang biologi dan kimia, GPT-Rosalind-6 dirancang agar lebih bermanfaat bagi penelitian tingkat lanjut yang sah dibandingkan model ChatGPT yang tersedia secara umum. Model ini dapat mendukung beberapa topik penelitian yang mungkin ditolak oleh GPT-6 Astra dalam layanan General Access.

Namun, model tetap dilatih untuk menolak atau memberikan respons yang aman terhadap permintaan yang secara signifikan dapat memfasilitasi pembuatan senjata biologis yang menimbulkan bahaya serius. OpenAI juga melakukan evaluasi keselamatan terhadap respons model menggunakan data sintetis yang tidak digunakan dalam pelatihan, pengujian red-team, dan data produksi.

Dalam evaluasi tersebut, OpenAI menilai respons model terhadap permintaan yang berkaitan dengan pembuatan senjata biologis. OpenAI juga mengevaluasi kemampuan GPT-Rosalind-6 dalam mengikuti instruksi, bersikap jujur, menahan serangan prompt injection, dan berperilaku saat menggunakan alat.

Evaluasi tambahan dilakukan untuk mengetahui apakah sistem pemantauan otomatis dapat mendeteksi tindakan berbahaya, serta apakah model mampu menghindari deteksi atau mengubah proses penalarannya ketika diperintahkan.

OpenAI menyatakan bahwa mekanisme perlindungan tersebut akan terus dipantau dan disesuaikan seiring penggunaan model di dunia nyata.

Akses Dapat Dicabut jika Terjadi Penyalahgunaan

OpenAI mempertahankan proses pemantauan, peninjauan, dan penegakan untuk mengidentifikasi kemungkinan penyalahgunaan setelah akses diberikan. Proses tersebut dirancang untuk mendeteksi aktivitas yang dapat mengindikasikan tindakan biologis, kimia, atau aktivitas berbahaya lainnya yang melanggar Kebijakan Penggunaan OpenAI, maupun akses tanpa izin.

Dalam menilai kemungkinan penyalahgunaan, OpenAI menggunakan berbagai sinyal, termasuk pengklasifikasi keselamatan otomatis, indikator pada tingkat akun atau organisasi, informasi dari pelanggan, serta peninjauan oleh spesialis terhadap aktivitas berisiko tinggi jika tersedia.

OpenAI juga dapat membatasi atau mencabut akses apabila terjadi penyalahgunaan.

Sebelum peluncuran, OpenAI menguji proses pemantauan dan penegakan bersama melalui kegiatan red-team keamanan biologis pada GPT-Rosalind-5.5.

Pengujian serupa sedang diulangi untuk GPT-Rosalind-6 setelah model ini diterapkan.

OpenAI tidak mengungkapkan detail pengujian tersebut kepada publik karena memuat informasi spesifik mengenai mekanisme perlindungan. Namun, informasi tersebut telah dibagikan kepada komite Safety Advisory Group dan badan tata kelola terkait lainnya.

Pelanggan yang telah disetujui juga diwajibkan mempertahankan kontrol keamanan yang sesuai, termasuk pengelolaan identitas dan akses, kontrol administrator, serta proses pencabutan akses bagi pengguna yang tidak lagi memiliki kebutuhan yang sah.

Pengaturan akses model dan penyimpanan data disetujui secara terpisah. Pelanggan harus memenuhi persyaratan keamanan dan pengawasan sesuai dengan penerapan yang telah disetujui. OpenAI menyatakan akan terus memantau sinyal keselamatan, pengalaman pelanggan, dan pola penyalahgunaan yang muncul. Mekanisme perlindungan GPT-Rosalind-6 juga dapat diperbarui seiring perkembangan penerapannya.

Peluncuran GPT-Rosalind-6 memperlihatkan pendekatan OpenAI dalam mengembangkan AI untuk penelitian ilmiah tingkat lanjut dengan kemampuan yang lebih luas, tetapi tetap dibatasi melalui akses tepercaya dan mekanisme perlindungan berlapis.

Bagi dunia penelitian, model ini berpotensi membantu pekerjaan di bidang biologi, penemuan obat, dan kedokteran translasi. Namun, OpenAI menegaskan bahwa kemampuan tersebut harus digunakan dalam lingkungan penelitian yang sah, dengan pengawasan manusia dan kontrol keamanan yang memadai.