top of page

Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

logo.png

NVIDIA công bố NVLink thế hệ thứ 5 dành cho khối lượng công việc AI

Generatived

9:00 26/8/25

NVIDIA luôn đi đầu trong việc đáp ứng nhu cầu tính toán ngày càng tăng của các mô hình AI, với số lượng tham số tăng vọt từ hàng triệu lên hàng nghìn tỷ. Được giới thiệu vào năm 2016, công nghệ NVLink của công ty đóng vai trò then chốt trong việc tăng cường giao tiếp giữa các GPU và tạo ra một không gian bộ nhớ thống nhất, khắc phục những hạn chế của PCIe cho các tác vụ tính toán hiệu năng cao và AI. Sự phát triển của NVLink được đánh dấu bằng những cột mốc quan trọng, chẳng hạn như việc giới thiệu công nghệ chuyển mạch NVLink vào năm 2018, cung cấp băng thông 300 GB/giây giữa các GPU trong cấu trúc tám GPU. Bước tiến này đã đặt nền móng cho kỷ nguyên hiện tại của các nền tảng điện toán đa GPU.

Thế hệ mới nhất, Gen 5 NVLink, dự kiến ​​ra mắt vào năm 2024, sẽ tự hào với tốc độ giao tiếp đa hướng đáng kinh ngạc lên đến 1.800 GB/giây giữa 72 GPU, mang lại tổng băng thông lên đến 130 TB/giây—gấp 800 lần so với thế hệ đầu tiên. Cam kết đổi mới của NVIDIA thể hiện rõ qua những cải tiến liên tục của NVLink, với việc phát hành các thế hệ mới hàng năm để đáp ứng nhu cầu tính toán và độ phức tạp ngày càng tăng nhanh chóng của các mô hình AI. Hiệu suất phần cứng được cải thiện nhờ Thư viện Giao tiếp Tập thể NVIDIA (NCCL), một thư viện mã nguồn mở được thiết kế để tối ưu hóa giao tiếp GPU và tích hợp liền mạch với các nền tảng học sâu lớn.

Để cải thiện năng suất của các nhà máy AI, phần cứng NVIDIA và công nghệ NVLink đóng vai trò then chốt trong việc đáp ứng nhu cầu tính toán của suy luận AI. Kiến trúc rack 72 GPU đóng vai trò then chốt trong việc đạt được hiệu suất suy luận tối ưu trong nhiều trường hợp sử dụng. Việc tối đa hóa doanh thu tại các nhà máy AI đòi hỏi sự cân bằng giữa thông lượng trên mỗi watt và latency, và diện tích dưới đường cong Pareto biên đóng vai trò là điểm chuẩn. Hiệu suất thay đổi đáng kể tùy thuộc vào cấu hình mở rộng quy mô, làm nổi bật tầm quan trọng của giao tiếp tốc độ cao NVLink trong việc cải thiện thông lượng và giảm latency.

Để hỗ trợ tốt hơn cho các hệ thống siêu quy mô, NVIDIA đã công bố NVLink Fusion, cung cấp quyền truy cập vào công nghệ NVLink scale-up fabric toàn diện. Giải pháp này cho phép tích hợp silicon tùy chỉnh vào kiến ​​trúc rack-scale của NVIDIA, mang đến một giải pháp linh hoạt cho nhiều cấu hình khác nhau, bao gồm CPU và XPU tùy chỉnh. NVLink Fusion được cung cấp dưới dạng giải pháp mô-đun tương thích với kiến ​​trúc rack MGX của Dự án Tính toán Mở (OCP), mang lại sự linh hoạt và khả năng tích hợp dễ dàng. Cấu hình XPU tùy chỉnh tận dụng IP Universal Chiplet Interconnect Express (UCIe) để giao tiếp, trong khi cấu hình CPU tùy chỉnh khuyến nghị tích hợp IP NVIDIA NVLink-C2C để kết nối với GPU NVIDIA.

NVLink Fusion được hỗ trợ bởi một hệ sinh thái đối tác mạnh mẽ, cho phép hỗ trợ rộng rãi và thiết kế nhanh chóng. Hệ sinh thái này, kết hợp với kiến ​​trúc rack OCP MGX và khả năng đáp ứng của chuỗi cung ứng, cho phép khách hàng rút ngắn thời gian đưa sản phẩm ra thị trường. NVLink của NVIDIA là một bước tiến vượt bậc trong việc đáp ứng nhu cầu tính toán của suy luận AI, mang đến cho các nhà cung cấp dịch vụ siêu quy mô hiệu suất và các tùy chọn tùy chỉnh vượt trội.

Chia sẻ bài viết này:

Tin tức mới nhất
NVIDIA phát hành bộ sưu tập TensorRT Model Connect.

NVIDIA phát hành bộ sưu tập TensorRT Model Connect.

7:00 28/8/26

NVIDIA đã giới thiệu TensorRT Model Connect để giúp các nhà phát triển phần mềm triển khai các mô hình trí tuệ nhân tạo mã nguồn mở vào môi trường C++ gốc.

PONS công bố thiết kế kiến ​​trúc cho nền tảng pháp lý.

PONS công bố thiết kế kiến ​​trúc cho nền tảng pháp lý.

7:00 28/8/26

PONS đã trình bày chi tiết các chiến lược kiến ​​trúc đám mây của mình để phát triển một nền tảng trí tuệ nhân tạo pháp lý trên Microsoft Azure.

Microsoft so sánh các mô hình triển khai hệ điều hành PostgreSQL

Microsoft so sánh các mô hình triển khai hệ điều hành PostgreSQL

7:00 28/8/26

Microsoft đã công bố hướng dẫn đánh giá kỹ thuật so sánh việc triển khai PostgreSQL tự lưu trữ với các dịch vụ cơ sở dữ liệu được quản lý.

Microsoft phát hiện chiến dịch tấn công mạng nhắm vào các doanh nghiệp.

Microsoft phát hiện chiến dịch tấn công mạng nhắm vào các doanh nghiệp.

7:00 28/8/26

Microsoft Threat Intelligence đã phát hiện một chiến dịch tấn công mạng có tên TerminalFix nhắm mục tiêu vào nhiều mạng lưới tổ chức khác nhau.

Copyright © 2024 Generatived - All right Reserved.

Chia sẻ bài viết này:

Chia sẻ bài viết này:

Generatived AI Logo

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

  • Facebook
  • X

Hãy theo dõi chúng tôi

Ngôn ngữ

Tin tức mới nhất
NVIDIA phát hành bộ sưu tập TensorRT Model Connect.

NVIDIA phát hành bộ sưu tập TensorRT Model Connect.

7:00 28/8/26

NVIDIA đã giới thiệu TensorRT Model Connect để giúp các nhà phát triển phần mềm triển khai các mô hình trí tuệ nhân tạo mã nguồn mở vào môi trường C++ gốc.

PONS công bố thiết kế kiến ​​trúc cho nền tảng pháp lý.

PONS công bố thiết kế kiến ​​trúc cho nền tảng pháp lý.

7:00 28/8/26

PONS đã trình bày chi tiết các chiến lược kiến ​​trúc đám mây của mình để phát triển một nền tảng trí tuệ nhân tạo pháp lý trên Microsoft Azure.

Microsoft so sánh các mô hình triển khai hệ điều hành PostgreSQL

Microsoft so sánh các mô hình triển khai hệ điều hành PostgreSQL

7:00 28/8/26

Microsoft đã công bố hướng dẫn đánh giá kỹ thuật so sánh việc triển khai PostgreSQL tự lưu trữ với các dịch vụ cơ sở dữ liệu được quản lý.

Microsoft phát hiện chiến dịch tấn công mạng nhắm vào các doanh nghiệp.

Microsoft phát hiện chiến dịch tấn công mạng nhắm vào các doanh nghiệp.

7:00 28/8/26

Microsoft Threat Intelligence đã phát hiện một chiến dịch tấn công mạng có tên TerminalFix nhắm mục tiêu vào nhiều mạng lưới tổ chức khác nhau.

bottom of page