NVIDIA mengumumkan inovasi AI terbarunya, platform Rubin, yang secara signifikan meningkatkan efisiensi dan efektivitas biaya sistem AI. Terdiri dari enam chip baru, platform ini bertujuan untuk mengurangi biaya token inferensi hingga 10 kali lipat dan jumlah GPU yang dibutuhkan untuk melatih Model of Expertise (MoE) hingga 4 kali lipat dibandingkan dengan platform NVIDIA Blackwell. Kemajuan ini diharapkan dapat membuat AI lebih mudah diakses dan mempercepat adopsinya.

Peluncuran platform Rubin sangat tepat waktu mengingat permintaan akan pelatihan dan inferensi komputasi AI yang meningkat pesat. Pendiri dan CEO NVIDIA, Jensen Huang, menyoroti desain bersama (co-design) yang ekstrem dari platform ini, yang terdapat pada enam chip baru, sebagai langkah besar menuju terobosan baru dalam AI. Platform ini dinamai berdasarkan nama Vera Florence Cooper Rubin, seorang astronom Amerika yang telah membuat kemajuan signifikan dalam pemahaman kita tentang alam semesta.

Selain platform Rubin, NVIDIA juga mengumumkan sistem switch Ethernet Photonics NVIDIA Spectrum-X, yang menawarkan efisiensi daya lima kali lebih besar dan waktu operasional yang lebih baik. Selain itu, platform penyimpanan NVIDIA Inference Context Memory yang baru, yang menampilkan prosesor penyimpanan NVIDIA BlueField-4, akan mempercepat inferensi AI berbasis agen. Microsoft sedang bersiap untuk mengintegrasikan sistem skala rak NVIDIA Vera Rubin NVL72 ke dalam Fairwater AI Superfactory generasi berikutnya, yang dapat diskalakan hingga ratusan ribu superchip NVIDIA Vera Rubin.

CoreWeave adalah salah satu perusahaan pertama yang menawarkan platform NVIDIA Rubin, yang dioperasikan melalui CoreWeave Mission Control untuk memastikan fleksibilitas dan kinerja. Selain itu, NVIDIA telah memperluas kolaborasinya dengan Red Hat untuk menghadirkan tumpukan AI komprehensif yang dioptimalkan untuk platform Rubin, termasuk Red Hat Enterprise Linux, Red Hat OpenShift, dan Red Hat AI. Kemitraan ini diharapkan dapat lebih meningkatkan kemampuan dan jangkauan platform tersebut.