Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đang tăng cường khả năng của các tác nhân AI với sự ra mắt của dòng mô hình mở Nemotron. Các mô hình này được thiết kế để cung cấp cho các tác nhân AI khả năng suy luận tiên tiến, cho phép chúng đưa ra quyết định tự chủ trong các môi trường phức tạp. Các mô hình Nemotron được tối ưu hóa về độ chính xác và hiệu quả, khiến chúng phù hợp với nhiều nền tảng điện toán tăng tốc.

Phát triển mô hình Nemotron bắt đầu bằng một mô hình nền tảng mạnh mẽ và sau đó tinh chỉnh nó theo từng bước bằng các kỹ thuật như tìm kiếm kiến ​​trúc nơ-ron, chưng cất kiến ​​thức, tinh chỉnh có giám sát và học tăng cường. Các bước này nhằm mục đích cải thiện khả năng suy luận và hiệu quả tính toán của mô hình. Do đó, các mô hình Nemotron đạt được độ chính xác hàng đầu trong ngành và thông lượng cao đồng thời giảm tổng chi phí sở hữu (TCO), đây là một lợi ích lớn đặc biệt đối với các ứng dụng doanh nghiệp.

NVIDIA thông báo rằng họ đang làm việc với các nhà phát triển mô hình AI trên khắp Châu Âu để tối ưu hóa các mô hình của họ bằng cách sử dụng khuôn khổ Nemotron. Ngoài ra, các mô hình này sẽ được cung cấp dưới dạng các dịch vụ vi mô suy luận NVIDIA NIM, cung cấp suy luận AI có thể mở rộng với thông lượng cao và latency thấp, giúp chúng phù hợp để triển khai trong nhiều môi trường khác nhau.

Họ Nemotron bao gồm nhiều mô hình chuyên biệt, bao gồm Mistral-Nemotron cho các ứng dụng chuyên biệt, Llama Nemotron cho suy luận và gọi công cụ, và Nemotron-CORTEXA cho các tác vụ kỹ thuật phần mềm. NVIDIA cũng xuất bản các tập dữ liệu nguồn mở để đào tạo các mô hình này, đã trở nên phổ biến trên bảng xếp hạng của Hugging Face. Người dùng có thể truy cập dịch vụ Mistral-Nemotron NIM và các mô hình và tập dữ liệu Llama Nemotron khác trực tiếp từ trình duyệt của họ hoặc thông qua Hugging Face.