Bangun Model Generative AI, Microsoft Rilis Virtual Machine Baru

Microsoft mengumumkan kehadiran virtual machine generasi terbaru di cloud Azure guna mengakomodasi kebutuhan membangun model generative artificial intelligence (AI).

Saat ini penerapan generative AI kian marak dan terus berevolusi dalam memberikan nilai tambah yang unik di setiap industri yang mengaplikasikannya. Misalnya, oleh Microsoft, jenis AI ini dimanfaatkan untuk berbagai hal, mulai dari meningkatkan pencarian dengan Microsoft Bing dan Edge, sampai tool bantuan berbasis AI pada Microsoft Dynamics 365.

Untuk menghadirkan model artificial intelligence canggih dibutuhkan infrastruktur, layanan, dan keahlian khusus di bidang supercomputing, terutama dalam memenuhi kebutuhan skala dan kompleksitas komputasinya.

Microsoft sendiri telah memiliki pengalaman panjang di bidang superkomputer. Cloud Azure bahkan mendukung workload terbesar untuk melatih AI yang menjadi infrastruktur AI dengan kinerja masif. Microsoft Azure, khususnya virtual machine dengan GPU terakselerasi, telah menjadi fondasi bagi pengembangan generative AI di Microsoft sendiri maupun para pelanggannya. 

“Merancang bersama superkomputer dengan Azure sangat penting untuk meningkatkan kebutuhan pelatihan AI kami yang menantang, sehingga memungkinkan kami melakukan penelitian dan penyelarasan pada sistem-sistem, seperti ChatGPT,” ujar Greg Brockman, President and Co-Founder of OpenAI dikutip dari Info Komputer, Selasa (14/3). 

Melihat kebutuhan dan tren generative AI ini, Microsoft memperkenalkan virtual machine baru, ND H100 v5. Mesin virtual ini disebut Microsoft memungkinkan on-demand untuk ukuran yang bervariasi, mulai dari delapan hingga ribuan GPU NVIDIA H100, yang terhubung oleh jaringan NVIDIA Quantum-2 InfiniBand. 

Dengan virtual machine terbaru ini, Microsoft menjanjikan kinerja modeling AI yang lebih gesit daripada generasi virtual machine sebelumnya, ND A100 v4. Adapun teknologi-teknologi yang mendukugnya, seperti prosesor Intel Xeon Scalable generasi ke-4; 8x GPU NVIDIA H100 Tensor Core yang terhubung melalui NVSwitch generasi berikutnya dan NVLink 4.0; 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand per GPU dengan 3,2Tb/s per VM pada non-blocking fat-tree networking; NVSwitch dan NVLink 4.0 dengan bisectional bandwidth 3.6TB/s antara between 8 GPU lokal dalam setiap VM; dan DDR5 DIMM 4800MHZ 16 channel. 

Di blog Microsoft, Matt Vegas, Principal Product Manager, Azure HPC+AI, mengatakan, saat ini  ND H100 v5 sudah tersedia sebagai preview dan akan menjadi penawaran standar dalam portofolio Azure. Pengguna bisa mendaftarkan diri untuk meminta akses ke virtual machine baru ini.