NVIDIA merinci Arsitektur Referensi Perusahaan dan konfigurasi pabrik AI yang dirancang untuk mendukung penerapan sistem AI agen dan AI generatif di lingkungan on-premises. Perusahaan memposisikan kerangka kerja ini sebagai panduan infrastruktur untuk operasi AI yang terukur.

Arsitektur ini mengintegrasikan komputasi, jaringan, penyimpanan, orkestrasi, dan pemantauan ke dalam model penerapan yang telah divalidasi yang dibangun di atas Sistem Bersertifikasi NVIDIA. NVIDIA mengatakan perusahaan semakin membutuhkan infrastruktur yang dapat diprediksi yang mampu mendukung inferensi AI, pelatihan model, dan beban kerja otomatisasi dalam skala besar.

Perusahaan memperkenalkan tiga konfigurasi pabrik AI: RTX PRO AI Factory, HGX AI Factory, dan NVL72 AI Factory. Platform ini dimaksudkan untuk mendukung beban kerja mulai dari komputasi visual dan inferensi hingga pelatihan model bahasa skala besar dan pemrosesan AI skala rak.

NVIDIA juga menyoroti kolaborasi dengan mitra sistem global yang memvalidasi penerapan di seluruh lapisan perangkat keras dan perangkat lunak. Perusahaan mengatakan pendekatan ini dapat mempersingkat siklus penerapan, mengurangi biaya operasional, dan membantu perusahaan mentransisikan proyek AI dari tahap uji coba ke lingkungan produksi dengan lebih efisien.