Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố một bộ vi dịch vụ mới được thiết kế để hỗ trợ các tác nhân AI trực quan trong nhiều ngành công nghiệp khác nhau. Được hỗ trợ bởi Mô hình ngôn ngữ thị giác (VLM), các tác nhân này có thể hiểu lời nhắc bằng ngôn ngữ tự nhiên và trả lời các câu hỏi trực quan, giúp đơn giản hóa đáng kể quá trình phát triển ứng dụng. Công nghệ này cho phép nhận thức rộng hơn và hiểu biết theo ngữ cảnh, tạo ra nhiều khả năng biến đổi như tóm tắt hình ảnh và video, hỏi đáp trực quan tương tác và tạo cảnh báo trực quan.

Các tác nhân AI trực quan này dự kiến ​​sẽ được triển khai ở nhiều địa điểm khác nhau, bao gồm nhà máy, nhà kho, cửa hàng bán lẻ, sân bay và các nút giao thông. Bằng cách cho phép tương tác tự nhiên, các tác nhân này nhằm mục đích giúp các nhóm vận hành đưa ra quyết định sáng suốt thông qua những hiểu biết sâu sắc hơn. Các dịch vụ vi mô của NVIDIA, chẳng hạn như NVIDIA NIM và NVIDIA VIA, được thiết kế để tăng tốc việc tạo ra các tác nhân này, cung cấp cho các nhà phát triển các công cụ để dễ dàng xây dựng và tùy chỉnh ứng dụng.

NVIDIA VIA Microservices, một phần mở rộng của NVIDIA Metropolis Microservices, hiện có sẵn để nhà phát triển tải xuống dưới dạng bản xem trước. Các dịch vụ vi mô này có nguồn gốc từ đám mây và có thể được triển khai trong nhiều môi trường khác nhau, cả ở biên và trên đám mây. Nó cung cấp kiến ​​trúc mô-đun và hỗ trợ cho các mô hình có thể tùy chỉnh, đồng thời chứa cả video đã ghi và luồng trực tiếp. Việc tích hợp NVIDIA VIA và NVIDIA NIM cho phép bạn sử dụng nhiều mô hình LLM hoặc VLM từ danh mục API của NVIDIA, với mô hình OpenAI GPT-4o đóng vai trò là VLM mặc định.

Microservice cũng giải quyết thách thức tóm tắt các video dài bằng cách chia chúng thành các phân đoạn nhỏ hơn và phân tích chúng riêng lẻ. Cách tiếp cận này đảm bảo rằng các hành động được nhận dạng chính xác mà không mất chi tiết. Tính năng tóm tắt của NVIDIA VIA được tối ưu hóa cho khả năng mở rộng trên nhiều GPU và có thể xử lý hiệu quả cả tệp video và luồng trực tiếp. Mô-đun RAG nhận biết ngữ cảnh (CA-RAG) tăng cường hơn nữa khả năng tóm tắt bằng cách trích xuất và tổng hợp thông tin hữu ích từ các đoạn video.

Các sản phẩm mới nhất của NVIDIA thể hiện cam kết của công ty trong việc thúc đẩy công nghệ AI trực quan và cung cấp cho các nhà phát triển các nguồn lực để đổi mới và tùy chỉnh các giải pháp cho nhiều trường hợp sử dụng. Các dịch vụ vi mô này có khả năng được triển khai trên nhiều nền tảng GPU NVIDIA khác nhau, hợp lý hóa quá trình phát triển và tích hợp các tác nhân AI trực quan vào các hệ thống hiện có, mở đường cho các ứng dụng tương tác và sâu sắc hơn.