Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố những cải tiến cho nền tảng mạng Spectrum-X, mở rộng khả năng của nền tảng này vào cấu trúc lưu trữ dữ liệu quan trọng đối với hiệu suất của các ứng dụng AI. Công nghệ định tuyến thích ứng Spectrum-X được thiết kế để giảm xung đột luồng và tăng băng thông, vượt trội hơn giao thức mạng Ethernet RoCE v2 thường được sử dụng. Cải tiến hiệu suất lưu trữ này dự kiến ​​sẽ làm tăng đáng kể băng thông đọc và ghi, đẩy nhanh quy trình làm việc AI, đặc biệt là trong giai đoạn đào tạo và suy luận.

Để giải quyết tình trạng phức tạp ngày càng tăng của khối lượng công việc AI, NVIDIA đã hợp tác với các nhà cung cấp giải pháp lưu trữ như DDN, VAST Data và WEKA. Những sự hợp tác này nhằm mục đích tối ưu hóa các dịch vụ của họ cho nền tảng Spectrum-X và nâng cao khả năng của cấu trúc lưu trữ AI. Siêu máy tính AI tạo sinh của NVIDIA, Israel-1, đóng vai trò là nền tảng thử nghiệm cho Spectrum-X để chứng minh tác động của nó đối với khối lượng công việc lưu trữ trong điều kiện thực tế. Các thử nghiệm so sánh sử dụng máy khách máy chủ GPU NVIDIA HGX H100 cho thấy Spectrum-X luôn mang lại hiệu suất vượt trội, cải thiện băng thông đọc và ghi lần lượt là 20% đến 48% và 9% đến 41%.

Tầm quan trọng của hiệu suất mạng lưu trữ trong AI được thể hiện rõ qua nhu cầu xử lý hiệu quả các luồng dữ liệu lớn, chẳng hạn như các luồng dữ liệu được tạo ra trong quá trình kiểm tra điểm đào tạo mô hình và quy trình Search Augmentation Generation (RAG). Khả năng định tuyến thích ứng và kiểm soát tắc nghẽn của Spectrum-X, được điều chỉnh từ công nghệ InfiniBand, giúp quản lý các luồng dữ liệu này, đảm bảo sử dụng vải cao và kết quả nhất quán. Ngoài ra, để tăng tốc hơn nữa đường dẫn dữ liệu từ bộ lưu trữ đến GPU, chúng tôi khuyên dùng bộ SDK, thư viện và phần mềm của NVIDIA, bao gồm NVIDIA Air, Cumulus Linux, DOCA, NetQ và GPUDirect Storage.

Đối với những ai quan tâm đến những tiến bộ kỹ thuật trong mạng lưu trữ AI, NVIDIA đã xuất bản một sách trắng đi sâu vào chi tiết về việc tối ưu hóa cấu trúc lưu trữ AI với Spectrum-X. Hệ sinh thái đối tác của NVIDIA có thể tìm hiểu thêm thông qua nhiều bài đăng trên blog và sách trắng, và các phiên sắp tới tại NVIDIA GTC 2025 sẽ cung cấp thêm thông tin cập nhật về chủ đề này.