Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố NeMo-Skills, một thư viện mới được thiết kế để đơn giản hóa quy trình cải tiến mô hình ngôn ngữ. Quy trình cải tiến mô hình ngôn ngữ thường bao gồm các giai đoạn như tạo dữ liệu tổng hợp, đào tạo mô hình và đánh giá, mỗi giai đoạn yêu cầu các công cụ khác nhau và có thể phức tạp để tích hợp. NeMo-Skills cung cấp mức độ trừu tượng cao cho phép tích hợp liền mạch nhiều khuôn khổ khác nhau, tạo điều kiện cho phương pháp tiếp cận thống nhất để phát triển mô hình.

Thư viện đã đóng góp đáng kể vào chiến thắng của NVIDIA trong cuộc thi AIMO2 Kaggle, chứng minh tính hiệu quả của nó trong việc nâng cao khả năng suy luận toán học của các mô hình. Người dùng quan tâm đến việc sử dụng NeMo-Skills sẽ cần truy cập vào phần cứng cụ thể, chẳng hạn như hộp NVIDIA DGX và cụm Slurm được cấu hình tương đương. Thư viện tận dụng các vùng chứa Docker để sắp xếp công việc, cho phép người dùng thiết lập NeMo-Skills trên máy trạm cục bộ của họ và quản lý các công việc trên cụm Slurm thông qua SSH.

Quy trình NeMo-Skills bắt đầu bằng cách thiết lập đường cơ sở về hiệu suất của mô hình và sau đó tạo dữ liệu tổng hợp bằng các công cụ như NVIDIA TensorRT-LLM và vLLM. Dữ liệu được tạo ra được sử dụng để đào tạo mô hình, với tùy chọn sử dụng NeMo-Aligner hoặc NeMo-RL để tinh chỉnh. Toàn bộ quy trình từ tạo dữ liệu đến đào tạo và đánh giá mô hình có thể được thực hiện trong một tập lệnh duy nhất, cho phép tạo mẫu nhanh và khả năng mở rộng cho các thí nghiệm quy mô lớn.

NeMo-Skills của NVIDIA đã được sử dụng để tạo ra nhiều mô hình và tập dữ liệu khác nhau, bao gồm tập dữ liệu OpenMathReasoning, mô hình OpenMath-Nemotron, bộ sưu tập OpenCodeReasoning và OpenCodeInstruct, và cũng đã đóng góp vào việc quản lý dữ liệu cho chuỗi mô hình Llama-Nemotron. Thư viện này có thể được các nhà phát triển và nhà nghiên cứu tích hợp vào các dự án của họ để tinh chỉnh hiệu quả các mô hình ngôn ngữ.