Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

MLCommons đã công bố MLPerf Client v1.0, một chuẩn mực mới để đánh giá hiệu suất của các mô hình ngôn ngữ quy mô lớn trên các hệ thống máy khách như PC. Phiên bản này mở rộng phạm vi các chỉ số hiệu suất AI để đáp ứng thị trường PC AI đang phát triển nhanh chóng. Chuẩn mực này hiện bao gồm nhiều mô hình hơn, bao gồm Llama 2 7B Chat và Phi 4 Reasoning 14B, để thể hiện tốt hơn nhiều ứng dụng thực tế.

Khả năng đánh giá chuẩn đã được cải thiện với việc bổ sung các danh mục nhắc nhở để phân tích mã và tóm tắt ngữ cảnh dài, phản ánh các tác vụ ngày càng quan trọng đối với nhà phát triển và người dùng chuyên nghiệp. MLPerf Client v1.0 cũng mở rộng hỗ trợ phần cứng để bao gồm nhiều loại GPU và NPU từ các nhà sản xuất lớn, bao gồm AMD, Intel, NVIDIA và Qualcomm Technologies, đảm bảo khả năng tương thích rộng rãi.

MLPerf Client v1.0 sở hữu giao diện đồ họa thân thiện với người dùng cùng với giao diện dòng lệnh tự động hóa. Giao diện người dùng đồ họa này hỗ trợ giám sát tài nguyên hệ thống và so sánh hiệu suất theo thời gian thực, đáp ứng nhu cầu của cả người dùng phổ thông và nhà phát triển. Điểm chuẩn này là nỗ lực hợp tác giữa các công ty lớn trong ngành và có sẵn để tải xuống miễn phí, với mục tiêu phát triển song song với hệ sinh thái AI PC.

Ramesh Jaladi, đồng chủ tịch Nhóm Công tác MLPerf Client, nhấn mạnh tầm quan trọng của MLPerf Client v1.0 như một tiêu chuẩn đáng tin cậy để đánh giá khả năng AI trên các thiết bị tiêu dùng. Tiêu chuẩn này được kỳ vọng sẽ là một nguồn tài nguyên đáng tin cậy cho các OEM, nhà sản xuất chất bán dẫn và người dùng cuối. MLCommons tiếp tục sứ mệnh nâng cao công nghệ học máy thông qua các tiêu chuẩn và phương pháp hay nhất, và MLPerf Client v1.0 là phiên bản mới nhất bổ sung vào bộ công cụ MLCommons.