Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA vừa công bố mở rộng triển khai nền tảng mạng Ethernet Spectrum-X cùng với giao thức truyền tải RDMA Multipath Reliable Connection (MRC) cho cơ sở hạ tầng AI quy mô lớn. Công ty cho biết OpenAI, Microsoft và Oracle nằm trong số các tổ chức đang sử dụng công nghệ này trong môi trường nhà máy AI.

Theo NVIDIA, MRC phân phối lưu lượng RDMA trên nhiều đường dẫn mạng để cải thiện thông lượng, khả năng phục hồi và cân bằng tải trong quá trình huấn luyện mô hình AI. Giao thức này được thiết kế để giảm thiểu tình trạng chậm do tắc nghẽn và duy trì mức sử dụng GPU cao trên các cụm máy tính quy mô lớn.

Giám đốc điều hành của OpenAI, Sachin Katti, cho biết việc triển khai MRC trong thế hệ Blackwell đã giúp giảm thiểu sự gián đoạn liên quan đến mạng và duy trì hiệu quả đào tạo ở quy mô lớn. NVIDIA bổ sung rằng cơ sở hạ tầng Fairwater của Microsoft và trung tâm dữ liệu Abilene của Oracle Cloud Infrastructure cũng dựa vào Spectrum-X Ethernet và MRC cho các khối lượng công việc AI tiên tiến.

Công ty này cũng lưu ý thêm rằng đặc tả MRC đã được phát hành thông qua Dự án Open Compute như một sáng kiến ​​tiêu chuẩn mở. NVIDIA cho biết các nỗ lực phát triển bao gồm sự hợp tác với AMD, Broadcom, Intel, Microsoft và OpenAI để hỗ trợ các kiến ​​trúc mạng AI có khả năng mở rộng và bền vững.