Dapat Kritikan, California Ubah RUU Terkait Pengembangan AI

California telah mengusulkan sebuah rancangan undang-undang yang ketat, bertujuan untuk menciptakan keamanan selama pengembangan AI. RUU ini, yang dikenal dengan nomor SB 1047, yang diharapkan dapat mencegah potensi bencana yang disebabkan oleh teknologi Artificial Intelligence (AI). Namun, kehadiran RUU ini mendapatkan penentangan yang kuat dari berbagai pihak di Silicon Valley, yang merasa bahwa isi RUU tersebut akan menghambat inovasi dalam pengembangan AI. Protes tersebut tampaknya memberikan dampak pada para legislator di negara bagian ini.

Saat ini, beberapa anggota parlemen California bersedia mengakomodasi tekanan ini dengan menerapkan sejumlah amandemen yang diusulkan oleh firma AI, seperti Anthropic, serta pihak-pihak penentang lainnya. RUU yang telah direvisi tersebut kini sudah disetujui melalui Komite Alokasi Dana California. "Kami telah menerima sejumlah amandemen yang sangat sesuai, dan saya yakin telah mempertimbangkan berbagai isu penting yang diangkat oleh Anthropic dan banyak pemangku kepentingan di industri ini," kata Senator Wiener, seperti yang dilansir dari laman TechCrunch (16/8/2024). "Amandemen ini merupakan hasil dari perubahan signifikan yang saya terapkan sebelumnya pada SB 1047, untuk memenuhi kebutuhan spesifik komunitas sumber terbuka, yang merupakan sumber inovasi yang krusial.

SB 1047 tetap berfokus pada pencegahan sistem AI besar dari risiko yang dapat mengakibatkan banyak korban jiwa atau menyebabkan kerugian akibat peristiwa keamanan siber yang melebihi USD500 juta. Upaya ini dilakukan dengan menegaskan pertanggungjawaban kepada para pengembang. Namun, kewenangan pemerintah California untuk mendesak akuntabilitas dari laboratorium AI kini telah dikurangi.

Perubahan signifikan dalam RUU ini mencakup penghapusan hak Jaksa Agung California untuk mengajukan tuntutan terhadap perusahaan-perusahaan AI atas kelalaian dalam praktik keselamatan sebelum terjadi peristiwa bencana. Keputusan ini terlahir dari rekomendasi yang diberikan oleh Anthropic, sebuah perusahaan terkemuka dalam pengembangan AI yang berfokus pada pembuatan sistem yang aman dan etis. Rekomendasi tersebut mendapatkan perhatian luas di kalangan pembuat kebijakan dan pengamat industri, yang berargumen bahwa pengurangan kewenangan tersebut dapat mempercepat inovasi namun juga meningkatkan risiko tanpa adanya regulasi yang ketat.

Di sisi lain, meskipun hak Jaksa Agung untuk melayangkan tuntutan awal telah dibatasi, mereka tetap memiliki jalur hukum melalui putusan pengadilan, yang memungkinkan mereka untuk meminta perusahaan-perusahaan menghentikan operasi yang dianggap berbahaya. Ini memberikan mereka beberapa tingkat perlindungan terhadap potensi ancaman yang dapat ditimbulkan oleh pengembangan teknologi AI yang tidak sepenuhnya diawasi. Dengan cara ini, meski tidak memiliki kekuatan proaktif untuk mencegah masalah, Jaksa Agung California masih bisa melindungi masyarakat melalui mekanisme responsif ketika suatu model AI menyebabkan bencana. Namun, tantangan tetap ada, karena harus ada proses yang cepat dan efisien agar langkah-langkah tersebut dapat diambil sebelum kerusakan terjadi.

Tambahan lainnya adalah bahwa SB 1047 tidak akan membentuk Frontier Model Division (FMD), sebuah lembaga baru yang sebelumnya ada dalam rancangan RUU. Namun, RUU ini tetap mendirikan Board of Frontier Models, yang merupakan inti dari FMD, dan menempatkannya dalam Pemerintahan Operasi yang sudah ada. Saat ini, dewan tersebut telah berkembang menjadi sembilan anggota, bertambah dari lima anggota yang ada sebelumnya. Board of Frontier Models akan terus menetapkan ambang batas komputasi untuk model-model yang terlibat, serta mengeluarkan panduan keselamatan dan regulasi untuk auditor.

Dalam perubahan lain yang diusulkan oleh Senator Wiener dalam SB 1047, laboratorium AI tidak diwajibkan lagi untuk menyerahkan sertifikasi hasil uji keamanan dengan ancaman hukuman sumpah palsu. Kini, laboratorium tersebut hanya perlu mengajukan “pernyataan” publik mengenai praktik keamanan mereka, tanpa adanya konsekuensi pidana yang membebani. Selain itu, SB 1047 kini menyajikan bahasa yang lebih fleksibel terkait bagaimana pengembang harus memastikan keamanan model AI. RUU tersebut menetapkan kewajiban bagi pengembang untuk memberikan "perhatian yang wajar" dalam mencegah risiko signifikan yang berpotensi menyebabkan bencana, menggantikan persyaratan "jaminan yang wajar" dari RUU sebelumnya.

Para pembuat undang-undang menambahkan perlindungan bagi model open source yang telah disempurnakan. Dalam hal ini, jika seseorang menghabiskan kurang dari USD 10 juta untuk mengembangkan model yang sudah dilindungi, mereka tidak akan dianggap sebagai pengembang menurut SB 1047. Tanggung jawab tersebut akan tetap berada di tangan pengembang model asli yang lebih besar.