Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã giới thiệu một quy trình làm việc để tối ưu hóa LangChain Deep Agents với NVIDIA Nemotron 3 Ultra, chứng minh cách tùy chỉnh bộ khung tác nhân có thể cải thiện đáng kể hiệu suất mà không cần tinh chỉnh mô hình.

Thay vì huấn luyện lại mô hình ngôn ngữ, các nhà phát triển có thể sửa đổi các lời nhắc, phần mềm trung gian, mô tả công cụ và logic thực thi trong bộ khung tác nhân để phù hợp hơn với hành vi của mô hình. Phương pháp này dựa trên đánh giá dựa trên điểm chuẩn để xác định lỗi, thực hiện các cải tiến có mục tiêu và xác minh những lợi ích đạt được đồng thời ngăn ngừa sự suy giảm hiệu suất.

Trong một ví dụ, NVIDIA đã giải quyết vấn đề phân trang tệp bằng cách thêm phần mềm trung gian hướng dẫn tác nhân tiếp tục đọc các tệp lớn khi có khả năng có thêm nội dung. Thay đổi này đã giải quyết tất cả các lỗi điểm chuẩn liên quan và cải thiện điểm đánh giá tổng thể từ 94 lên 96 trên 127.

Công ty cũng mô tả một vòng lặp tối ưu hóa tự động, trong đó tác nhân AI phân tích các lỗi điểm chuẩn, đề xuất các sửa đổi cho cấu hình bộ khung, xác thực từng thay đổi thông qua thử nghiệm lặp đi lặp lại và chỉ giữ lại những cải tiến liên tục vượt qua đánh giá. Quy trình này bao gồm các cơ chế hoàn tác và chạy lại toàn bộ điểm chuẩn để giảm nguy cơ quá khớp.

Theo NVIDIA, phương pháp tối ưu hóa tương tự có thể được áp dụng cho các khung tác nhân khác, miễn là chúng cung cấp các tiêu chuẩn đánh giá, cấu hình khung điều khiển có thể tùy chỉnh và cơ chế xác thực các cải tiến lặp đi lặp lại.