Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif

NVIDIA Mengevaluasi Kinerja Perangkat Keras Inferensi Agen
Generatived
25/8/26, 07.00
NVIDIA mengevaluasi kinerja sistem di seluruh beban kerja kecerdasan buatan berbasis agen menggunakan rangkaian benchmark SemiAnalysis AgentX. Metodologi pengujian memutar ulang sesi pengkodean produksi untuk mengukur penanganan konteks panjang, manajemen memori, dan efisiensi daya di seluruh tugas multi-langkah yang kompleks.
Hasil eksperimen menunjukkan bahwa arsitektur Vera Rubin NVL72 memberikan throughput pemrosesan hingga 30x lebih tinggi per megawatt dibandingkan konfigurasi sebelumnya. Optimasi sistem membantu mempertahankan interaktivitas pengguna secara real-time sambil memaksimalkan output komputasi dalam batas daya pusat data tetap secara terus menerus.
Selain itu, platform GB300 NVL72 mencapai pengurangan biaya yang signifikan per juta token saat menjalankan model campuran ahli yang besar. Tumpukan perangkat keras dan perangkat lunak terintegrasi memungkinkan penerapan alur kerja penalaran otomatis yang dapat diskalakan di seluruh lingkungan komputasi perusahaan modern.
Bagikan artikel ini:

