Intel Kenalkan Prosesor Xeon 6 dan Gaudi 3 untuk AI Modern

Dalam menghadapi tuntutan yang semakin mendesak untuk infrastruktur Artificial Intelligence (AI) yang efisien dan hemat biaya, Intel telah meluncurkan dua produk inovatif: prosesor Xeon 6 dengan Performance-cores (P-cores) dan AI accelerator Gaudi 3. Langkah ini menegaskan komitmen Intel untuk menghadirkan solusi AI yang kuat dengan performa optimal dan Cost of Ownership (TCO) yang lebih rendah.

Justin Hotard, Wakil Presiden Eksekutif dan General Manager untuk Data Center dan Artificial Intelligence Group di Intel, menyatakan, "Permintaan AI telah memicu transformasi besar di pusat data, dan industri ini membutuhkan pilihan yang lebih baik untuk perangkat keras, perangkat lunak, dan alat pengembang." Peluncuran Xeon 6 dan Gaudi 3 menghadirkan ekosistem terbuka yang memungkinkan pelanggan untuk mengelola berbagai workload dengan lebih efisien dan aman.

Peluncuran Xeon 6 dan Gaudi 3: Inovasi Terbaru Intel

Dua inovasi utama dalam portofolio pusat data Intel adalah Intel Xeon 6 dan Gaudi 3. Prosesor Xeon 6 dirancang untuk menangani beban kerja yang memerlukan daya komputasi tinggi, dengan performa dua kali lipat dibandingkan generasi sebelumnya. Prosesor ini memiliki lebih banyak inti, bandwidth memori yang dua kali lipat, dan kemampuan akselerasi AI di setiap inti, menjadikannya ideal untuk berbagai lingkungan, mulai dari edge hingga pusat data dan cloud.

Sementara itu, AI accelerator Intel Gaudi 3 dioptimalkan untuk aplikasi AI generatif berskala besar. Ditenagai oleh 64 Tensor Processor Core (TPC) dan 8 matrix multiplication engine (MME), Gaudi 3 mempercepat komputasi deep neural network. Prosesor ini dilengkapi memori HBM2e 128 gigabyte (GB) untuk pelatihan dan inferensi, serta port Ethernet 24 dengan kecepatan 200 Gigabit (Gb) untuk jaringan yang scalable. Gaudi 3 juga kompatibel dengan framework seperti PyTorch dan model dari Hugging Face. Intel juga telah menjalin kemitraan dengan IBM untuk menghadirkan Gaudi 3 sebagai layanan di IBM Cloud, berupaya mengurangi TCO dan meningkatkan performa AI.

Optimasi TCO dalam Sistem AI

Dalam menjalankan aplikasi AI berskala besar, penting untuk mempertimbangkan beberapa faktor, termasuk fleksibilitas dalam penerapan, rasio harga-performa yang kompetitif, dan aksesibilitas teknologi AI. Infrastruktur x86 dari Intel, yang kuat dan didukung oleh ekosistem terbuka yang luas, memungkinkan perusahaan membangun sistem AI dengan nilai tinggi dan performa optimal per watt. Menariknya, sekitar 73% server GPU-accelerated mengandalkan Intel Xeon sebagai host CPU.

Intel juga berkolaborasi dengan produsen perangkat keras terkemuka seperti Dell Technologies dan Supermicro untuk mengembangkan sistem yang disesuaikan dengan kebutuhan spesifik pelanggan. Misalnya, Dell Technologies saat ini merancang solusi berbasis retrieval-augmented generation (RAG) dengan memanfaatkan Xeon 6 dan Gaudi 3.

Mengatasi Tantangan Prototipe ke Produksi melalui Co-engineering

Transisi dari prototipe AI generatif ke sistem produksi sering menghadapi tantangan seperti monitoring real-time, penanganan error, dan skalabilitas. Untuk mengatasi hal ini, Intel berfokus pada co-engineering dengan OEM dan mitra untuk menyediakan solusi RAG yang siap produksi. Solusi ini dikembangkan dalam platform Open Platform Enterprise AI (OPEA), mengintegrasikan layanan mikro berbasis OPEA ke dalam sistem RAG yang scalable, sehingga memudahkan integrasi aplikasi dari Kubernetes, Red Hat OpenShift AI, dan Red Hat Enterprise Linux AI.

Akses yang Lebih Luas untuk Aplikasi Enterprise AI

Portofolio Intel Tiber menawarkan solusi untuk mengatasi tantangan di lingkungan AI, cloud dan edge, termasuk aksesibilitas, biaya, dan keamanan. Intel Tiber Developer Cloud kini menyediakan sistem pratinjau untuk Intel Xeon 6 yang dapat diuji oleh pelanggan. Selain itu, beberapa pelanggan terpilih akan mendapatkan akses awal ke Intel Gaudi untuk memvalidasi penerapan model AI, dengan cluster Gaudi 3 yang dijadwalkan untuk diluncurkan pada kuartal mendatang.

Layanan baru juga mencakup SeekrFlow, platform AI end-to-end dari Seekr untuk mengembangkan aplikasi AI yang dapat diandalkan. Update terbaru mencakup peluncuran perangkat lunak Intel Gaudi terbaru serta notebook Jupyter yang didukung PyTorch 2.4 dan Intel oneAPI, yang memberikan kemampuan akselerasi AI dan dukungan untuk prosesor Xeon 6.

Dengan peluncuran Xeon 6 dan Gaudi 3, Intel menunjukkan dedikasi dan inovasi dalam menyediakan solusi AI yang siap memenuhi kebutuhan industri yang terus berkembang.