OpenAI dan Anthropic Setujui Uji Model AI oleh Lembaga AS

OpenAI dan Anthropic, dua startup terkemuka di bidang artificial intelligence (AI), telah menyetujui kerjasama dengan U.S. AI Safety Institute untuk memungkinkan pengujian terhadap model-model AI terbaru mereka sebelum model tersebut diluncurkan secara publik. Langkah ini diambil di tengah meningkatnya perhatian terhadap isu keselamatan dan etika dalam pengembangan AI.

Institut ini beroperasi di bawah naungan Departemen Perdagangan AS melalui National Institute of Standards and Technology (NIST). Dalam pernyataan resmi yang dirilis, U.S. AI Safety Institute menyatakan bahwa mereka akan mendapatkan “akses ke model-model baru utama dari masing-masing perusahaan sebelum dan sesudah dirilis ke publik.”

Pembentukan U.S. AI Safety Institute ini merupakan tindak lanjut dari perintah eksekutif pertama tentang kecerdasan buatan yang dikeluarkan oleh pemerintahan Biden-Harris pada Oktober 2023. Perintah eksekutif tersebut menekankan pentingnya evaluasi keselamatan baru, pedoman tentang kesetaraan dan hak sipil, serta penelitian tentang dampak AI terhadap pasar tenaga kerja di masa depan.

CEO OpenAI, Sam Altman, mengungkapkan kegembiraannya atas kesepakatan ini melalui unggahan di platform X (sebelumnya dikenal sebagai Twitter). "Kami senang telah mencapai kesepakatan dengan U.S. AI Safety Institute untuk melakukan pengujian pra-rilis pada model-model masa depan kami," tulis Altman. OpenAI juga mengonfirmasi bahwa dalam setahun terakhir, mereka berhasil meningkatkan jumlah pengguna aktif mingguan dari akhir tahun lalu menjadi 200 juta, menunjukkan pertumbuhan signifikan dalam adopsi teknologi mereka.

Kabar tentang kerjasama ini muncul bersamaan dengan laporan bahwa OpenAI sedang dalam tahap negosiasi untuk mendapatkan pendanaan baru yang akan menilai perusahaan tersebut lebih dari $100 miliar. Thrive Capital dikabarkan memimpin putaran pendanaan ini dan berencana menginvestasikan sekitar $1 miliar, menurut sumber yang mengetahui detail negosiasi namun tidak ingin diungkapkan karena sifat informasi yang rahasia.

Anthropic, yang didirikan oleh mantan eksekutif dan peneliti OpenAI, saat ini memiliki valuasi sekitar $18,4 miliar. Perusahaan ini mendapatkan dukungan signifikan dari Amazon, sementara OpenAI sendiri dikenal didukung kuat oleh Microsoft. Kesepakatan antara OpenAI, Anthropic, dan U.S. AI Safety Institute ini diharapkan dapat “memfasilitasi penelitian kolaboratif untuk mengevaluasi kemampuan dan risiko keselamatan, serta menemukan metode untuk mengurangi risiko tersebut,” menurut rilis resmi dari pihak terkait.

Jason Kwon, Kepala Strategi OpenAI, menyatakan dukungannya terhadap misi U.S. AI Safety Institute. Dalam sebuah pernyataan yang dikutip dari CNBC, Kwon mengatakan, “Kami sangat mendukung misi U.S. AI Safety Institute dan berharap dapat bekerjasama untuk membentuk praktik dan standar keselamatan terbaik untuk model AI.”

Co-founder Anthropic, Jack Clark, menambahkan bahwa kerjasama dengan U.S. AI Safety Institute akan memanfaatkan keahlian institusi tersebut untuk menguji model-model mereka dengan lebih ketat sebelum diluncurkan secara luas. Clark menekankan pentingnya langkah ini untuk meningkatkan kemampuan mereka dalam mengidentifikasi dan mengurangi risiko, serta mendorong pengembangan AI yang bertanggung jawab.

Beberapa peneliti dan pengembang AI telah menyuarakan kekhawatiran mereka terkait keselamatan dan etika di industri AI yang semakin berorientasi pada keuntungan. Pada tanggal 4 Juni, karyawan OpenAI, baik yang masih aktif maupun yang sudah tidak bekerja di sana, menerbitkan surat terbuka yang menyoroti masalah potensial akibat kemajuan pesat dalam AI serta kurangnya pengawasan dan perlindungan bagi pelapor.

Mereka menekankan bahwa perusahaan AI memiliki insentif finansial yang kuat untuk menghindari pengawasan yang efektif dan bahwa struktur tata kelola perusahaan saat ini belum memadai untuk mengubah situasi ini. Lebih lanjut, mereka menyoroti bahwa perusahaan AI memiliki kewajiban yang sangat lemah untuk memberikan informasi kepada pemerintah dan sama sekali tidak ada kewajiban untuk membagikannya kepada masyarakat sipil.

Tidak lama setelah surat terbuka ini dirilis, sumber yang akrab dengan masalah tersebut mengonfirmasi bahwa Federal Trade Commission (FTC) dan Departemen Kehakiman AS berencana untuk membuka penyelidikan antimonopoli terhadap OpenAI, Microsoft, dan Nvidia. Ketua FTC, Lina Khan, menyebutkan bahwa penyelidikan ini adalah bagian dari upaya untuk memahami investasi dan kemitraan yang terbentuk antara pengembang AI dan penyedia layanan cloud besar.

Sementara itu, legislator California baru saja mengesahkan undang-undang keselamatan AI yang kontroversial, yang kini menunggu keputusan Gubernur Gavin Newsom. RUU tersebut, yang mengusulkan kewajiban pengujian keselamatan dan langkah-langkah perlindungan lainnya untuk model AI dengan biaya atau daya komputasi tertentu, telah menuai kritik dari beberapa perusahaan teknologi yang khawatir regulasi ini dapat memperlambat inovasi. Gubernur Newsom diharapkan memberikan keputusan apakah akan menandatangani atau memveto undang-undang tersebut pada 30 September mendatang.