Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Agentic AI giới thiệu một hệ sinh thái giúp nâng cao năng lực của các tác nhân AI thông qua các mô hình ngôn ngữ và thị giác được xây dựng chuyên biệt. Các mô hình này được tùy chỉnh để hỗ trợ nhiều tác vụ khác nhau, bao gồm lập kế hoạch, suy luận, tìm kiếm và đảm bảo các biện pháp an toàn. Các nhà phát triển muốn xây dựng các tác nhân AI chuyên biệt cho các ứng dụng thực tế giờ đây có thể tiếp cận các công cụ quan trọng như mô hình mở để tinh chỉnh, bộ dữ liệu mạnh mẽ và phương pháp triển khai hiệu quả.

Tại sự kiện NVIDIA GTC DC, công ty đã công bố một loạt mô hình mới hứa hẹn cải thiện độ chính xác và hiệu quả tính toán. Các mô hình này sử dụng dữ liệu mở và công thức để đáp ứng nhu cầu của nhà phát triển trong việc xây dựng các tác nhân đa phương thức và đảm bảo an toàn nội dung. Mô hình Nemotron, với khả năng phân tích tài liệu và hiểu video, sẽ là một nguồn tài nguyên quý giá cho các nhà phát triển.

Với 32 tỷ tham số, NVIDIA Nemotron Nano 3 cho phép các nhà phát triển xây dựng hệ thống AI với hiệu suất và độ chính xác được cải thiện. Mô hình này đặc biệt hiệu quả trong việc xử lý các tác vụ phức tạp như suy luận khoa học và lập trình. Kiến trúc MoE của nó được thiết kế để giảm cả chi phí tính toán và latency, trong khi mô hình Nemotron Nano 2 VL vượt trội về suy luận đa phương thức, cho phép trợ lý AI xử lý và sử dụng thông tin từ nhiều nguồn khác nhau, bao gồm văn bản, hình ảnh và video.

Ngoài ra, phiên bản NVIDIA Nemotron Parse 1.1 còn giới thiệu một trình phân tích cú pháp tài liệu nhỏ gọn, giúp tăng cường trí tuệ tài liệu bằng cách trích xuất văn bản có cấu trúc và bảng biểu. Mô hình này dự kiến ​​sẽ cải thiện độ chính xác cho các ứng dụng hạ nguồn và hỗ trợ việc đào tạo cả mô hình ngôn ngữ quy mô lớn và mô hình ngôn ngữ trực quan. Hơn nữa, bộ mô hình Nemotron RAG dự kiến ​​sẽ đẩy nhanh quá trình phát triển các ứng dụng AI dựa trên tìm kiếm, đồng thời đảm bảo quyền riêng tư dữ liệu và kết nối an toàn với dữ liệu độc quyền.

Để giải quyết vấn đề an toàn quan trọng trong phát triển AI, Llama 3.1 giới thiệu mô hình Nemotron Safety Guard. Mô hình an toàn nội dung đa ngôn ngữ này đã được tinh chỉnh dựa trên các tập dữ liệu đa dạng và có khả năng phát hiện nội dung không an toàn trên nhiều ngôn ngữ. Mô hình này tích hợp với NeMo Guardrails để đảm bảo an toàn nội dung theo thời gian thực trong các quy trình AI.

Các nhà phát triển cũng có thể tận dụng NVIDIA NeMo Evaluator SDK để đánh giá hiệu năng LLM một cách đáng tin cậy. Bộ công cụ NeMo Agent Toolkit hỗ trợ các nhà phát triển bằng cách tối ưu hóa các siêu tham số chính và hợp lý hóa quy trình phát triển cho các tác nhân AI và quy trình làm việc. Các công cụ và mô hình này có sẵn để tải xuống từ Hugging Face, và cũng có sẵn hỗ trợ từ nhiều nhà cung cấp suy luận khác nhau để giúp quá trình chuyển đổi từ phát triển sang sản xuất dễ dàng hơn.