Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

MLCommons, một tập đoàn kỹ thuật AI mở nổi tiếng, đã công bố kết quả mới từ hai bộ điểm chuẩn MLPerf™.

Đầu tiên, MLPerf Inference v3.1, cung cấp tiêu chuẩn để đo lường hiệu suất của hệ thống máy học (ML) theo cách độc lập, mang tính đại diện và có thể tái tạo với kiến ​​trúc. Thứ hai, MLPerf Storage v0.5 là bản phát hành kết quả đầu tiên từ điểm chuẩn MLPerf Storage, đánh giá hiệu suất hệ thống lưu trữ trong bối cảnh khối lượng công việc đào tạo ML.



Bộ MLPerf Inference v3.1 có số lượng người tham gia kỷ lục, với hơn 13.500 kết quả hiệu suất và cải thiện hiệu suất lên tới 40%. Kết quả được gửi bởi 26 bên khác nhau, bao gồm cả những người gửi lần đầu Connect Tech, Nutanix, Oracle và TTA. Bộ phần mềm này hỗ trợ mọi thứ, từ chatbot AI tiên tiến đến các tính năng an toàn cho phương tiện như giao diện giữ làn đường và chuyển lời nói thành văn bản với suy luận ML, đảm bảo tốc độ mà hệ thống có thể chạy các mô hình trong nhiều tình huống triển khai khác nhau.

MLPerf Inference v3.1 cũng giới thiệu hai điểm chuẩn mới. Đầu tiên là mô hình ngôn ngữ quy mô lớn (LLM) sử dụng mô hình tham chiếu GPT-J để tóm tắt các bài báo CNN. Thử nghiệm đã mang lại kết quả từ 15 người gửi khác nhau, phản ánh việc áp dụng nhanh chóng AI sáng tạo. Thứ hai là một công cụ đề xuất cập nhật đã được sửa đổi để thể hiện tốt hơn các thông lệ trong ngành. Thử nghiệm này sử dụng mô hình tham chiếu DLRM-DCNv2 và tập dữ liệu lớn hơn chứa 9 lần gửi. Những thử nghiệm mới này nhằm mục đích nâng cao AI bằng cách đảm bảo các điểm chuẩn tiêu chuẩn ngành thể hiện các xu hướng mới nhất trong việc áp dụng AI và hướng dẫn khách hàng, nhà cung cấp và nhà nghiên cứu.