Microsoft Luncurkan Alat Baru untuk Atasi Halusinasi AI

Microsoft baru-baru ini mengumumkan peluncuran alat baru bernama Correction, yang dirancang untuk mengatasi masalah halusinasi pada artificial intelligence (AI). Dengan klaim ini, perusahaan berupaya memberikan solusi bagi pengguna yang khawatir tentang ketidakakuratan informasi yang dihasilkan oleh AI, namun banyak pakar teknologi menyarankan agar publik bersikap skeptis terhadap klaim tersebut.

Correction bertujuan untuk secara otomatis memperbaiki teks yang dihasilkan AI yang mungkin mengandung kesalahan faktual. Prosesnya dimulai dengan menandai bagian teks yang berpotensi salah, seperti kutipan yang mungkin tidak tepat dalam ringkasan laporan hasil kuartalan sebuah perusahaan. Setelah itu, alat ini akan memverifikasi keakuratan informasi dengan membandingkan teks tersebut dengan sumber kebenaran, seperti transkrip yang telah diunggah.

Sementara Correction merupakan bagian dari API Keamanan Konten Azure AI Microsoft yang saat ini masih dalam tahap percobaan, alat ini dapat digunakan bersama model AI penghasil teks lainnya, termasuk Llama dari Meta dan GPT-4 dari OpenAI. “Correction mengintegrasikan model bahasa kecil dan besar untuk menyelaraskan hasil dengan dokumen referensi,” kata seorang juru bicara Microsoft kepada TechCrunch. “Kami berharap fitur ini bisa membantu pengembang dan pengguna AI generatif, terutama di bidang kedokteran, di mana akurasi sangat penting.”

Dalam perkembangan yang sejalan, Google juga memperkenalkan fitur serupa di platform Vertex AI, yang memungkinkan pengguna untuk menyelaraskan model mereka dengan data dari penyedia pihak ketiga serta dataset internal. Namun, para ahli mengingatkan bahwa pendekatan penyelarasan ini tidak mengatasi penyebab mendasar dari masalah halusinasi.

Os Keyes, seorang kandidat PhD di Universitas Washington yang mempelajari dampak etis teknologi baru, menjelaskan bahwa menghilangkan halusinasi dari AI generatif adalah tantangan besar. “Halusinasi adalah bagian integral dari cara kerja teknologi ini. AI tidak benar-benar ‘mengetahui’ apa pun; ia hanya merupakan sistem statistik yang mengidentifikasi pola dan membuat prediksi berdasarkan data yang telah dipelajari,” jelas Keyes. Hal ini menjelaskan mengapa model-model ini sering memberikan informasi yang salah, terutama dalam konteks medis.

Microsoft mencoba mengatasi masalah ini dengan mengembangkan dua model meta yang berfungsi untuk menyoroti dan memperbaiki halusinasi. Model klasifikasi pertama mencari potongan teks yang mungkin tidak akurat, sementara model kedua berfungsi untuk memperbaiki kesalahan tersebut sesuai dengan dokumen referensi yang ditetapkan. Juru bicara Microsoft menekankan bahwa Correction dapat meningkatkan keandalan dan kredibilitas konten yang dihasilkan AI, dengan tujuan mengurangi ketidakpuasan pengguna dan risiko reputasi bagi pengembang aplikasi.

Namun, Keyes mengungkapkan keraguan tentang efektivitas Correction. “Meskipun mungkin mengurangi beberapa masalah, ini juga bisa menciptakan tantangan baru. Bahkan pustaka deteksi halusinasi Correction mungkin berpotensi mengalami halusinasi sendiri,” katanya. Selain itu, ketika diminta informasi lebih lanjut mengenai model-model yang digunakan dalam Correction, juru bicara Microsoft merujuk pada makalah penelitian terbaru tetapi tidak memberikan rincian penting tentang dataset yang digunakan untuk pelatihan model.

Mike Cook, peneliti di Queen Mary University yang fokus pada AI, berpendapat bahwa meskipun Correction dapat berfungsi seperti yang diharapkan, alat ini dapat memperburuk masalah kepercayaan dan transparansi dalam penggunaan AI. “Microsoft dan perusahaan lain sering kali mengandalkan model yang ternyata sering memberikan informasi yang salah. Solusi baru ini hanya mengulangi kesalahan yang sama dengan cara yang lebih kompleks,” katanya.

Lebih lanjut, Cook menyoroti bahwa Microsoft menawarkan Correction secara gratis, namun deteksi penyelarasan yang dibutuhkan untuk mendeteksi halusinasi hanya gratis hingga 5.000 rekaman teks per bulan. Setelah itu, pengguna akan dikenakan biaya, yang dapat menjadi kendala bagi banyak pengembang.

Microsoft saat ini berada di bawah tekanan untuk membuktikan kepada pelanggan dan pemegang saham bahwa investasi mereka dalam AI sepadan. Pada kuartal kedua, perusahaan ini menghabiskan hampir $19 miliar untuk belanja modal terkait AI, tetapi belum melihat pendapatan yang signifikan dari sektor tersebut. Beberapa pengguna awal dari platform AI generatif Microsoft 365 Copilot dilaporkan telah menunda penerapan alat ini karena masalah kinerja dan biaya, menyoroti kekhawatiran yang berkembang seputar akurasi dan halusinasi dalam penggunaan AI di berbagai industri.

Secara keseluruhan, meskipun Microsoft berusaha untuk menghadirkan solusi terhadap tantangan yang dihadapi dalam teknologi AI, tantangan tersebut tetap kompleks dan memerlukan perhatian lebih dari para pengembang dan pengguna.