Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã đưa ra một thông báo quan trọng tại hội nghị Supercomputing 2024, tiết lộ thành viên mới của gia đình Hopper, GPU NVIDIA H200 NVL PCIe. Cải tiến mới nhất này được tùy chỉnh cho các trung tâm dữ liệu ưu tiên các giải pháp làm mát không khí tiêu thụ điện năng thấp và yêu cầu cấu hình linh hoạt để xử lý nhiều khối lượng công việc AI và HPC khác nhau. H200 NVL được thiết kế để phù hợp hoàn toàn với các giá đỡ doanh nghiệp hiện có, cung cấp giải pháp có thể mở rộng từ 1 đến 8 GPU tùy thuộc vào nhu cầu tính toán của bạn.

Công ty nhấn mạnh rằng GPU H200 NVL không chỉ có thể tăng tốc các ứng dụng AI và HPC mà còn cải thiện hiệu quả sử dụng năng lượng bằng cách giảm mức tiêu thụ điện năng. Với những cải tiến như bộ nhớ 1,5 lần và băng thông 1,2 lần so với phiên bản tiền nhiệm H100 NVL, H200 NVL tăng tốc đáng kể các tác vụ như tinh chỉnh mô hình ngôn ngữ lớn và cải thiện hiệu suất suy luận. Đối với khối lượng công việc HPC, GPU mới mang lại hiệu suất được cải thiện so với cả H100 NVL và kiến ​​trúc NVIDIA Ampere thế hệ trước.

H200 NVL của NVIDIA cũng được hưởng lợi từ việc tích hợp công nghệ NVLink mới nhất, cho phép giao tiếp giữa GPU với GPU nhanh hơn bảy lần so với các thế hệ PCIe trước đây. Cải tiến này rất quan trọng đối với các ứng dụng đòi hỏi khắt khe trong HPC và AI, chẳng hạn như suy luận và tinh chỉnh các mô hình ngôn ngữ quy mô lớn. Ngoài ra, H200 NVL còn đi kèm gói đăng ký NVIDIA AI Enterprise 5 năm. Đây là một nền tảng phần mềm toàn diện hỗ trợ phát triển và triển khai các ứng dụng AI, bao gồm suy luận mô hình AI an toàn, đáng tin cậy và hiệu suất cao với các vi dịch vụ NVIDIA NIM.

Tác động của H200 NVL đã được cảm nhận rõ ràng trong các ngành công nghiệp, với việc các công ty tận dụng khả năng của nó cho các ứng dụng từ đại lý AI dịch vụ khách hàng đến hình ảnh y tế. Ví dụ: Dropbox đang xem xét H200 NVL để cung cấp năng lượng cho các dịch vụ quản lý nội dung của mình và Đại học New Mexico có kế hoạch sử dụng GPU để tăng tốc một loạt các sáng kiến ​​nghiên cứu. H200 NVL sẽ có sẵn với nhiều cấu hình khác nhau từ các công ty công nghệ hàng đầu và NVIDIA cũng đang phát triển kiến ​​trúc tham chiếu doanh nghiệp để giúp các đối tác và khách hàng xây dựng cơ sở hạ tầng AI hiệu suất cao bằng cách sử dụng H200 NVL. Các công nghệ mới sẽ được giới thiệu tại SC24 và được giải thích thêm trong buổi nói chuyện đặc biệt của NVIDIA.