Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
NVIDIA dẫn đầu MLPerf Inference với hiệu năng kỷ lục.
Generatived
9:00 3/4/26
NVIDIA báo cáo rằng các hệ thống sử dụng GPU Blackwell Ultra đạt hiệu năng suy luận hàng đầu trên nhiều bài kiểm tra trong MLPerf Inference v6.0, phản ánh thông lượng mạnh mẽ trên nhiều khối lượng công việc AI khác nhau.
Công ty cho biết họ là nền tảng duy nhất gửi kết quả trên tất cả các mô hình mới được giới thiệu, bao gồm DeepSeek-R1 và Qwen3-VL, đồng thời mang lại hiệu năng dẫn đầu trong mỗi trường hợp.
Cũng cần lưu ý rằng các tối ưu hóa phần mềm, đặc biệt là thông qua TensorRT-LLM, đã cải thiện tốc độ suy luận lên đến 2,7 lần trên cùng phần cứng, giảm đáng kể chi phí tạo token.
Ngoài ra, các cấu hình quy mô lớn được kết nối với InfiniBand được cho là đã cho phép xử lý hàng triệu token mỗi giây, làm nổi bật tác động của thiết kế phần cứng và phần mềm tích hợp đối với hiệu quả cơ sở hạ tầng AI.
Chia sẻ bài viết này:
Tin tức mới nhất
WPP ra mắt hệ thống dữ liệu tiếp thị tích hợp.
7:00 25/8/26
WPP đã xây dựng một kiến trúc dữ liệu tích hợp trên Google Cloud để hỗ trợ hệ sinh thái tiếp thị dựa trên tác nhân của mình.
NVIDIA ra mắt nền tảng suy luận Groq được tăng tốc.
7:00 25/8/26
NVIDIA đã công bố các đánh giá hiệu năng độc lập về bộ tăng tốc suy luận tương tác Groq 3 LPX được thiết kế cho các tác vụ trí tuệ nhân tạo dựa trên tác nhân.
NVIDIA đánh giá hiệu năng phần cứng suy luận tác nhân.
7:00 25/8/26
NVIDIA đã đánh giá hiệu năng hệ thống trên các tác vụ trí tuệ nhân tạo dựa trên tác nhân bằng bộ công cụ đo hiệu năng SemiAnalysis AgentX.
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế gi ới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
WPP ra mắt hệ thống dữ liệu tiếp thị tích hợp.
7:00 25/8/26
WPP đã xây dựng một kiến trúc dữ liệu tích hợp trên Google Cloud để hỗ trợ hệ sinh thái tiếp thị dựa trên tác nhân của mình.
NVIDIA ra mắt nền tảng suy luận Groq được tăng tốc.
7:00 25/8/26
NVIDIA đã công bố các đánh giá hiệu năng độc lập về bộ tăng tốc suy luận tương tác Groq 3 LPX được thiết kế cho các tác vụ trí tuệ nhân tạo dựa trên tác nhân.
NVIDIA đánh giá hiệu năng phần cứng suy luận tác nhân.
7:00 25/8/26
NVIDIA đã đánh giá hiệu năng hệ thống trên các tác vụ trí tuệ nhân tạo dựa trên tác nhân bằng bộ công cụ đo hiệu năng SemiAnalysis AgentX.