Silicon Valley Perdebatkan Senjata AI Otonom

Silicon Valley tengah memperdebatkan penggunaan senjata berbasis Artificial Intelligence (AI) yang memiliki kemampuan untuk membuat keputusan mematikan secara mandiri. Pada akhir September, Brandon Tseng, salah satu pendiri Shield AI, menyatakan bahwa senjata di Amerika Serikat tidak akan pernah sepenuhnya otonom, yang berarti algoritma AI tidak akan berhak memutuskan untuk membunuh. "Dewan Perwakilan Rakyat tidak menginginkan itu," ujar Tseng kepada TechCrunch. "Tidak ada yang menginginkannya."

Namun, beberapa hari setelahnya, Palmer Luckey, co-founder Anduril, mengungkapkan pandangan berbeda. Ia menyatakan keterbukaan terhadap senjata otonom dan mempertanyakan argumen yang menolaknya. Dalam sebuah diskusi di Universitas Pepperdine, Luckey mengemukakan, "Musuh kita sering menggunakan frasa yang terdengar baik: tidakkah kamu setuju bahwa robot tidak seharusnya memutuskan siapa yang hidup dan mati? Namun, saya bertanya, di mana posisi moral pada ranjau darat yang tidak bisa membedakan antara bus sekolah dan tank Rusia?"

Juru bicara Anduril, Shannon Prior, menjelaskan bahwa Luckey tidak bermaksud agar robot diprogram untuk membunuh secara mandiri; ia lebih khawatir tentang penggunaan AI yang buruk oleh individu berbahaya.

Selama ini, Silicon Valley cenderung berhati-hati. Trae Stephens, rekan pendiri Luckey, mengatakan, "Teknologi yang kami bangun memungkinkan manusia membuat keputusan yang tepat." Ia menekankan pentingnya adanya pihak yang bertanggung jawab dalam keputusan yang dapat mengakibatkan fatalitas.

Sikap pemerintah AS juga ambigu. Saat ini, militer AS tidak mengakuisisi senjata otonom sepenuhnya. Meskipun beberapa pihak berpendapat bahwa senjata seperti ranjau dan rudal dapat beroperasi secara mandiri, ini berbeda dengan senjata otomatis yang bisa mengidentifikasi dan menyerang target tanpa intervensi manusia.

AS tidak melarang perusahaan untuk memproduksi senjata otonom, serta tidak secara eksplisit melarang penjualan senjata tersebut ke negara asing. Tahun lalu, pemerintah AS merilis pedoman baru mengenai keselamatan AI yang memerlukan persetujuan pejabat militer untuk setiap senjata otonom baru. Namun, pedoman tersebut bersifat sukarela, dan pejabat AS menekankan bahwa saat ini bukan waktu yang tepat untuk membahas larangan yang mengikat.

Joe Lonsdale, co-founder Palantir dan investor Anduril, juga menunjukkan keterbukaan terhadap senjata otonom dalam sebuah acara di Hudson Institute. Ia menyatakan frustrasi bahwa pertanyaan ini sering kali dianggap sebagai pilihan ya atau tidak. Lonsdale mengusulkan skenario di mana China telah mengadopsi senjata AI, sementara AS harus "menekan tombol setiap kali senjata itu ditembakkan." Ia menyerukan pembuat kebijakan untuk lebih fleksibel dalam mengatur penggunaan AI dalam senjata.

Lonsdale menegaskan bahwa perusahaan teknologi pertahanan tidak seharusnya menjadi penentu kebijakan mengenai AI mematikan. "Tugas pejabat terpilih untuk menetapkan kebijakan," ujarnya. "Namun, mereka perlu memahami nuansa agar dapat membuat keputusan yang baik."

Aktivis dan kelompok hak asasi manusia telah berusaha melarang senjata otonom di tingkat internasional, tetapi usaha tersebut sering kali ditolak oleh AS. Perang di Ukraina kini memberikan data baru bagi pengembang teknologi pertahanan. Saat ini, perusahaan-perusahaan sedang mengintegrasikan AI ke dalam sistem senjata, meskipun keputusan akhir tetap di tangan manusia.

Pejabat Ukraina, termasuk Mykhailo Fedorov, Menteri Transformasi Digital, mendorong otomatisasi lebih banyak dalam senjata untuk menghadapi Rusia. "Kami membutuhkan otomatisasi maksimal. Teknologi ini sangat penting bagi kemenangan kami," ujarnya.

Ketakutan terbesar bagi banyak pihak di Silicon Valley dan Washington D.C. adalah jika China atau Rusia meluncurkan senjata otonom lebih dulu, yang bisa memaksa AS untuk mengikuti jejak tersebut. Dalam debat PBB tentang senjata AI, seorang diplomat Rusia menyatakan bahwa bagi Federasi Rusia, prioritas mereka sedikit berbeda dari yang lain.

Lonsdale menekankan perlunya sektor teknologi untuk "mengajarkan Angkatan Laut, DoD, dan Kongres" mengenai potensi AI. Saat ini, Anduril dan Palantir telah menghabiskan lebih dari $4 juta untuk lobi demi mendapatkan perhatian di Kongres.