NVIDIA mengumumkan NeMo-Skills, pustaka baru yang dirancang untuk menyederhanakan alur kerja penyempurnaan model bahasa. Proses penyempurnaan model bahasa biasanya melibatkan tahapan seperti pembuatan data sintetis, pelatihan model, dan evaluasi, yang masing-masing memerlukan alat yang berbeda dan dapat menjadi rumit untuk diintegrasikan. NeMo-Skills menyediakan abstraksi tingkat tinggi yang memungkinkan integrasi berbagai kerangka kerja yang mulus, memfasilitasi pendekatan terpadu untuk pengembangan model.

Pustaka tersebut memberikan kontribusi yang signifikan terhadap kemenangan NVIDIA dalam kompetisi AIMO2 Kaggle, yang menunjukkan keefektifannya dalam meningkatkan kemampuan inferensi matematika model. Pengguna yang tertarik menggunakan NeMo-Skills akan memerlukan akses ke perangkat keras tertentu, seperti kotak NVIDIA DGX dan kluster Slurm yang dikonfigurasikan secara sebanding. Pustaka tersebut memanfaatkan kontainer Docker untuk orkestrasi pekerjaan, yang memungkinkan pengguna untuk menyiapkan NeMo-Skills di stasiun kerja lokal mereka dan mengelola pekerjaan di kluster Slurm melalui SSH.

Alur kerja NeMo-Skills dimulai dengan menetapkan dasar kinerja model, lalu menghasilkan data sintetis menggunakan alat seperti NVIDIA TensorRT-LLM dan vLLM. Data yang dihasilkan digunakan untuk melatih model, dengan opsi untuk menggunakan NeMo-Aligner atau NeMo-RL untuk penyempurnaan. Seluruh proses mulai dari pembuatan data hingga pelatihan dan evaluasi model dapat dilakukan dalam satu skrip, yang memungkinkan pembuatan prototipe cepat dan skalabilitas untuk eksperimen skala besar.

NeMo-Skills dari NVIDIA telah digunakan untuk membuat berbagai model dan kumpulan data, termasuk kumpulan data OpenMathReasoning, model OpenMath-Nemotron, koleksi OpenCodeReasoning dan OpenCodeInstruct, dan juga berkontribusi pada kurasi data untuk seri model Llama-Nemotron. Pustaka ini dapat diintegrasikan oleh pengembang dan peneliti ke dalam proyek mereka untuk menyempurnakan model bahasa secara efisien.