Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA vừa công bố cải tiến AI mới nhất của mình, nền tảng Rubin, giúp cải thiện đáng kể hiệu quả và tính tiết kiệm chi phí của các hệ thống AI. Bao gồm sáu chip mới, nền tảng này hướng đến mục tiêu giảm chi phí token suy luận lên đến 10 lần và số lượng GPU cần thiết để huấn luyện Mô hình Chuyên môn (MoE) xuống 4 lần so với nền tảng NVIDIA Blackwell. Sự tiến bộ này được kỳ vọng sẽ giúp AI dễ tiếp cận hơn và thúc đẩy việc ứng dụng nó.

Việc ra mắt nền tảng Rubin diễn ra đúng lúc nhu cầu về đào tạo và suy luận điện toán AI đang bùng nổ. Nhà sáng lập kiêm CEO của NVIDIA, Jensen Huang, nhấn mạnh thiết kế đồng bộ cực kỳ tiên tiến của nền tảng này, được tích hợp trong sáu chip mới, như một bước tiến lớn hướng tới những chân trời mới trong lĩnh vực AI. Nền tảng này được đặt tên theo Vera Florence Cooper Rubin, một nhà thiên văn học người Mỹ đã có những đóng góp đáng kể trong việc hiểu biết về vũ trụ.

Bên cạnh nền tảng Rubin, NVIDIA cũng công bố hệ thống chuyển mạch Ethernet Photonics NVIDIA Spectrum-X, tự hào với hiệu suất năng lượng cao hơn gấp năm lần và thời gian hoạt động được cải thiện. Thêm vào đó, nền tảng lưu trữ NVIDIA Inference Context Memory mới, tích hợp bộ xử lý lưu trữ NVIDIA BlueField-4, sẽ tăng tốc quá trình suy luận AI dựa trên tác nhân. Microsoft đang chuẩn bị tích hợp hệ thống NVIDIA Vera Rubin NVL72 quy mô rack vào nhà máy Fairwater AI Superfactory thế hệ tiếp theo của mình, có khả năng mở rộng lên đến hàng trăm nghìn siêu chip NVIDIA Vera Rubin.

CoreWeave là một trong những công ty đầu tiên cung cấp nền tảng NVIDIA Rubin, được vận hành thông qua CoreWeave Mission Control để đảm bảo tính linh hoạt và hiệu suất. Ngoài ra, NVIDIA đã mở rộng hợp tác với Red Hat để cung cấp một bộ giải pháp AI toàn diện được tối ưu hóa cho nền tảng Rubin, bao gồm Red Hat Enterprise Linux, Red Hat OpenShift và Red Hat AI. Sự hợp tác này được kỳ vọng sẽ tiếp tục nâng cao khả năng và phạm vi ứng dụng của nền tảng.