Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã giới thiệu các dịch vụ vi mô NIM để tạo điều kiện triển khai các mô hình dựa trên AI trên nhiều lĩnh vực khác nhau như ngôn ngữ, thị giác và giọng nói. Các dịch vụ vi mô này có thể được triển khai trên cơ sở hạ tầng được NVIDIA tăng tốc và cung cấp API chuẩn để tích hợp nhanh chóng với các ứng dụng và khuôn khổ phát triển AI.

Các sản phẩm mới nhất của họ cho phép tạo ra các hệ thống truy xuất thông tin đa phương thức dựa trên mô hình ngôn ngữ trực quan (VLM) có thể xử lý các truy vấn phức tạp liên quan đến văn bản, hình ảnh và bảng. Nó tận dụng LangGraph và VLM llama-3.2-90b-vision-instruct cùng với mô hình ngôn ngữ quy mô lớn (LLM) mistral-small-24B-instruct để cung cấp cho các nhà phát triển một giải pháp hợp lý.

Hệ thống tìm kiếm đa phương thức cung cấp các lợi ích như cải thiện khả năng hiểu ngữ cảnh và khả năng tạo ra đầu ra có cấu trúc, đặc biệt có lợi cho các ứng dụng doanh nghiệp, nơi tính nhất quán và độ tin cậy là tối quan trọng. Hệ thống tích hợp các công cụ như LangChain để lựa chọn động và sử dụng các công cụ bên ngoài để cải thiện độ chính xác của việc trích xuất và diễn giải dữ liệu.

Cách tiếp cận của NVIDIA đối với việc truy xuất thông tin nhấn mạnh tầm quan trọng của đầu ra có cấu trúc và tích hợp với các công cụ bên ngoài. Hệ thống được thiết kế để tạo ra các phản hồi nhất quán, được định dạng, giảm nhu cầu về kỹ thuật nhắc nhở phức tạp. Việc tích hợp NVIDIA NIM với các khuôn khổ như LangGraph chứng minh cam kết của công ty trong việc cung cấp cho các nhà phát triển các công cụ tiên tiến để xây dựng các hệ thống truy xuất thông tin hiệu quả và hiệu suất cao.