NVIDIA Kenalkan Superkomputer dengan Ribuan Chip AI GPU H100
- Rita Puspita Sari
- •
- 20 Feb 2024 16.39 WIB
NVIDIA, perusahaan teknologi yang dikenal dengan inovasi di bidang kecerdasan buatan (AI) dan Graphics Processing Unit (GPU), baru-baru ini meluncurkan superkomputer AI terbaru mereka yang diberi nama 'Eos'. Superkomputer ini bukanlah sembarang mesin, melainkan salah satu yang terkencang di dunia dalam pengembangan AI tingkat enterprise. Terletak pada posisi ke-9 dalam daftar superkomputer terkencang di dunia, Eos mengesankan dengan total 576 sistem DGX yang masing-masing dilengkapi dengan delapan GPU H100. Kombinasi ini memberikan kekuatan komputasi yang luar biasa bagi superkomputer ini, menjadikannya salah satu yang paling canggih dalam dunia AI.
Spesifikasi Superkomputer 'Eos'
Superkomputer 'Eos' dilengkapi dengan teknologi canggih untuk mendukung pengembangan AI dan berbagai aplikasi tingkat tinggi. Berikut adalah beberapa spesifikasi utama dari superkomputer 'Eos':
- 576 Sistem DGX dengan GPU H100: Superkomputer 'Eos' dibangun dengan total 576 sistem DGX yang masing-masing dilengkapi dengan delapan GPU H100. Ini menjadikan total 4.608 GPU H100 yang menjadi kekuatan utama superkomputer ini.
- Prosesor Intel Xeon Platinum 8480C: Setiap sistem DGX didukung oleh prosesor Intel Xeon Platinum 8480C yang memiliki 56 core per prosesor. Kombinasi ini memberikan kekuatan komputasi yang luar biasa bagi 'Eos'.
- Performa yang Mengesankan: Dengan spesifikasi yang dimilikinya, 'Eos' mampu memberikan performa sebesar 121.4 FP64 PetaFLOPS untuk High Performance Computing (HPC) dan 18.4 FP8 ExaFLOPS untuk AI.
- Keunggulan Software: Tidak hanya dari segi hardware, 'Eos' juga dilengkapi dengan software canggih untuk pengembangan dan penerapan AI. Superkomputer ini dapat menangani berbagai aplikasi AI generatif seperti ChatGPT hingga pengelolaan pabrik dengan kecerdasan buatan.
Keunggulan Infrastruktur Jaringan
Tidak hanya pada aspek hardware dan software, superkomputer 'Eos' juga memiliki keunggulan pada infrastruktur jaringannya. Dengan menggunakan sistem jaringan Mellanox Quantum-2 InfiniBand dari NVIDIA yang dilengkapi dengan teknologi In-Network Computing, 'Eos' mampu mencapai kecepatan transfer data hingga 400 Gb/s. Ini memastikan bahwa proses komputasi dan transfer data berjalan dengan efisien dan cepat.
Implikasi Bisnis dan Investasi NVIDIA
Investasi NVIDIA dalam pengembangan superkomputer AI seperti 'Eos' tidak hanya berdampak pada bidang teknologi, tetapi juga memiliki implikasi bisnis yang signifikan. Diperkirakan biaya pembangunan superkomputer 'Eos' sangat tinggi, mengingat harga satu unit GPU H100 saja mencapai Rp600 juta. Dengan 4.608 GPU H100 dan infrastruktur tambahan lainnya, total biaya pembangunan superkomputer 'Eos' dapat mencapai angka yang sangat besar.
Gilad Shainer, Wakil Presiden Senior di NVIDIA, menjelaskan bahwa teknologi AI generatif semakin penting dan merambah ke berbagai sektor.
"Teknologi AI adalah teknologi paling penting dalam hidup kita dan untuk mengembangkan aplikasi AI dan generative AI lainnya kita membutuhkan unit pemrosesan grafis (GPU) yang besar," katanya seperti dikutip dari Reuters.
"Teknologi AI generatif ada di mana-mana sekarang. Anda perlu dapat menjalankan pelatihan pada dataset yang besar," kata Shainer.
NVIDIA juga menjalin kemitraan strategis dengan Israel dalam pengembangan teknologi AI. Mereka sedang membangun superkomputer AI tercanggih di dunia yang diperkirakan akan beroperasi di Israel pada akhir 2023. Superkomputer ini, yang disebut Israel-1, diharapkan dapat memberikan kinerja hingga delapan exaflops komputasi AI, menjadikannya salah satu superkomputer AI tercepat di dunia
Sistem ini merupakan hasil pengembangan oleh tim yang sebagian besar berasal dari Mellanox Technologies, sebuah perusahaan desainer chip Israel. NVIDIA memperoleh Mellanox Technologies dengan harga hampir 7 miliar dolar AS atau setara dengan Rp105 triliun, mengalahkan tawaran dari Intel Corp. Selain itu, NVIDIA telah mengumumkan kerja sama dengan University of Bristol di Britania Raya untuk membangun superkomputer baru yang menggunakan chip terbaru dari NVIDIA. Langkah ini menandai komitmen NVIDIA dalam bersaing dengan perusahaan sekelas Intel dan Advanced Micro Devices Inc. dalam dunia komputasi tingkat tinggi.
Superkomputer 'Eos' dan inisiatif NVIDIA dalam mengembangkan teknologi AI merupakan langkah besar dalam evolusi kecerdasan buatan dan komputasi tingkat tinggi. Dengan spesifikasi yang mengesankan dan kemitraan strategis yang dibangun, NVIDIA memperkuat posisinya sebagai salah satu pemimpin di industri AI. Diharapkan bahwa inovasi ini akan mendorong perkembangan teknologi AI yang lebih lanjut dan memberikan dampak positif bagi berbagai industri di masa mendatang.