Fitur Ringkasan AI Google Dianggap Menyesatkan dan Tidak Akurat

Baru-baru ini, Google meluncurkan fitur baru di Amerika Serikat yang memungkinkan Artificial Intelligence (AI) untuk menyajikan ringkasan otomatis di bagian atas hasil pencarian. Fitur ini diharapkan dapat membantu pengguna mendapatkan informasi lebih cepat dengan ringkasan yang disusun berdasarkan berbagai sumber. Namun, fitur yang disebut "Ringkasan AI" ini telah memicu kekhawatiran, karena beberapa kali menghasilkan informasi yang keliru dan menyesatkan.

Dalam salah satu contoh, seorang reporter dari Associated Press (AP) mengajukan pertanyaan kepada mesin pencari Google tentang apakah para astronot pernah bertemu dengan kucing di bulan. Tanpa disangka, mesin pencari tersebut menjawab bahwa astronot memang pernah bertemu kucing di bulan, bermain dengan mereka, bahkan merawat mereka. Lebih jauh, ringkasan AI tersebut mengklaim bahwa Neil Armstrong menyebutkan "satu langkah kecil bagi manusia" sebagai langkah kecil untuk kucing, dan bahwa Buzz Aldrin juga membawa kucing dalam misi Apollo 11. Semua informasi ini jelas tidak benar, namun muncul sebagai hasil ringkasan dari AI Google.

Kasus ini hanya salah satu dari beberapa contoh lain yang menunjukkan kesalahan serius pada fitur baru Google. Beberapa pengguna melaporkan hasil pencarian aneh lainnya, seperti saran untuk makan satu batu setiap hari atau menambahkan lem pada pizza, yang tentunya sangat tidak masuk akal.

Para Ahli Mengkritik Akurasi dan Keandalan Ringkasan AI

Selain contoh-contoh yang jelas keliru, fitur Ringkasan AI ini juga memunculkan kekhawatiran di kalangan akademisi dan peneliti. Melanie Mitchell, seorang peneliti AI di Santa Fe Institute, New Mexico, mencoba menguji fitur ini dengan menanyakan berapa banyak Muslim yang pernah menjabat sebagai Presiden Amerika Serikat. Fitur AI tersebut dengan percaya diri menyebutkan bahwa Barack Hussein Obama adalah seorang presiden Muslim, sebuah teori konspirasi yang sudah lama dibantah. Lebih buruknya lagi, AI tersebut mendukung klaimnya dengan merujuk pada sebuah bab dalam buku akademik yang ditulis oleh sejarawan, meskipun kenyataannya bab tersebut tidak pernah mendukung klaim tersebut, melainkan hanya merujuk pada teori palsu tersebut.

Mitchell mengkritik keras fitur tersebut, menyatakan bahwa sistem AI Google tidak cukup cerdas untuk membedakan antara informasi yang valid dan referensi yang tidak relevan. "Ini adalah contoh betapa tidak dapat diandalkannya fitur ini. Fitur Ringkasan AI ini sangat tidak bertanggung jawab dan sebaiknya segera dihentikan," ujar Mitchell dalam sebuah wawancara melalui email dengan AP.

Google, menyadari kekhawatiran ini, segera mengeluarkan pernyataan resmi bahwa mereka sedang mengambil langkah cepat untuk memperbaiki kesalahan yang ada, termasuk klaim palsu tentang Obama. Mereka menegaskan bahwa dalam sebagian besar kasus, fitur ini bekerja sesuai yang diharapkan, berkat pengujian yang ketat sebelum peluncurannya. Google juga menyatakan bahwa sebagian besar Ringkasan AI menyajikan informasi berkualitas tinggi, dengan tautan yang memungkinkan pengguna menggali informasi lebih dalam di web. Menurut mereka, contoh kesalahan yang terjadi merupakan pertanyaan yang jarang diajukan atau hasil yang telah dimanipulasi dan sulit untuk direproduksi.

Tantangan 'Halusinasi' pada Model AI

Kesalahan yang dibuat oleh model bahasa AI seperti ini memang sulit untuk direproduksi, sebagian karena sifatnya yang acak. Model AI bekerja dengan memprediksi kata atau frasa yang paling tepat untuk menjawab pertanyaan berdasarkan data yang telah dilatih sebelumnya. Namun, mereka juga cenderung menciptakan informasi yang tidak akurat, sebuah masalah yang dikenal dalam dunia AI sebagai "halusinasi".

Untuk menguji keandalan fitur ini, AP mengajukan beberapa pertanyaan dan membagikan hasilnya kepada para ahli di berbagai bidang. Dalam satu kasus, ketika ditanya apa yang harus dilakukan jika terkena gigitan ular, AI Google memberikan jawaban yang sangat mendetail dan akurat, menurut Robert Espinoza, profesor biologi di California State University, Northridge, yang juga menjabat sebagai presiden American Society of Ichthyologists and Herpetologists. Namun, meskipun ada beberapa contoh hasil yang memuaskan, para ahli tetap mengingatkan bahwa dalam situasi yang mendesak, kesalahan kecil bisa menjadi masalah besar.

Sementara Google terus memperbaiki kesalahan yang muncul, para pesaingnya dalam industri teknologi juga mengamati dengan seksama perkembangan ini. Mereka merasakan tekanan untuk tetap kompetitif di tengah perlombaan peluncuran teknologi AI baru, di mana kecepatan dan akurasi menjadi faktor kunci keberhasilan.

Fitur Ringkasan AI ini, meskipun menjanjikan, masih memiliki banyak tantangan yang perlu diatasi untuk memastikan bahwa informasi yang diberikan benar-benar akurat dan dapat diandalkan, terutama ketika digunakan oleh jutaan pengguna di seluruh dunia.