Mozilla Rilis MemoryCache: Bot AI Offline di Firefox
- Rita Puspita Sari
- •
- 17 Des 2023 11.00 WIB
Mozilla, penyedia browser terkenal, baru-baru ini mengumumkan inovasi terbarunya yang bernama MemoryCache Experimental, sebuah Add-on yang membawa kehadiran AI Bot machine learning ke dalam platform Firefox. Berbeda dari chatbot AI lainnya, MemoryCache menonjol dengan kemampuannya untuk memberikan percakapan yang dipersonalisasi dengan memanfaatkan data khusus pengguna.
Add-on ini, yang saat ini tersedia dengan lisensi MPL, menjadikan Firefox sebagai satu-satunya browser yang mendukung aktivitas AI Bot ini. Namun, aktivasi memerlukan langkah manual melalui halaman about:debugging dan kompilasi khusus dengan patch tertentu.
Yang menarik dari MemoryCache adalah semua komponennya beroperasi pada sistem pengguna tanpa berinteraksi dengan sumber daya eksternal. Menggunakan model GPT4All-J sebagai basis pengetahuan, MemoryCache melatih dirinya dengan dataset besar, termasuk English-language content Pile (825 GB), ShareGPT (13 MB), dan Dolly (660 MB) dalam versi 3, 7, dan 13 miliar parameter.
Toolkit privateGPT digunakan untuk bekerja dengan model tersebut, memberikan solusi optimal untuk menggunakan large language models di komputer lokal. MemoryCache menyimpan halaman yang dilihat di direktori "~/Downloads/MemoryCache" dan secara berkala memperbarui model bahasa dengan skrip yang dijalankan untuk mengambil dan mengirimkannya ke handler privateGPT (ingest.py).
Pengguna dapat berinteraksi dengan bot AI ini dengan mengajukan pertanyaan dalam bahasa alami tentang halaman yang telah disimpan. Sebagai contoh, pengguna dapat meminta klarifikasi tentang suatu fakta, dan bot akan merespons menggunakan model lokal tanpa melibatkan layanan eksternal.
Meskipun masih dalam tahap pengembangan, MemoryCache menjanjikan pengalaman AI Bot yang menarik, dengan fokus utama pada menjaga privasi pengguna. Mozilla secara jelas menunjukkan komitmen untuk tidak menjadikan ini sebagai layanan eksternal, memberikan sentuhan inovatif pada dunia peramban web dan kecerdasan buatan. Terus pantau perkembangan ini untuk melihat bagaimana MemoryCache akan mengubah cara pengguna berinteraksi dengan Firefox.