top of page

Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

logo.png

NVIDIA mở rộng AI-Q Agent cho người dùng đa nhiệm

Generatived

9:00 29/8/25

Việc giới thiệu các tác nhân AI có khả năng xử lý nhiều người dùng cùng lúc là một bước tiến quan trọng trong ứng dụng thực tế. Tác nhân nghiên cứu chuyên sâu, được phát triển bằng AI-Q NVIDIA Blueprint, đã được mở rộng quy mô để ứng dụng thực tế bằng Bộ công cụ NVIDIA NeMo Agent. Bộ công cụ này cung cấp các công cụ và công nghệ cần thiết để tác nhân có thể hỗ trợ số lượng lớn người dùng.

AI-Q Research Agent là một ứng dụng LangGraph cho phép người dùng tải lên tài liệu, trích xuất siêu dữ liệu, truy cập các nguồn dữ liệu nội bộ và tạo báo cáo nghiên cứu thông qua tìm kiếm trên web. Kiến trúc của AI-Q Research Agent được thiết kế để có khả năng mở rộng, tận dụng mô hình NVIDIA NeMo Retriever và cụm OpenShift nội bộ. Việc triển khai tập trung vào việc xác định các thành phần hệ thống cần mở rộng để hỗ trợ hàng trăm người dùng trong nhiều nhóm khác nhau.

Để đảm bảo hiệu suất của agent có thể đáp ứng nhu cầu của nhiều người dùng, chúng tôi đã áp dụng quy trình ba bước. Đầu tiên, chúng tôi lập hồ sơ ứng dụng với một người dùng duy nhất để xác định các điểm nghẽn. Tiếp theo, chúng tôi thực hiện kiểm thử tải để ước tính kiến ​​trúc cần thiết cho một môi trường có hàng trăm người dùng. Cuối cùng, chúng tôi theo dõi ứng dụng trong quá trình triển khai theo từng giai đoạn, quan sát hiệu suất và thực hiện bất kỳ tối ưu hóa nào cần thiết.

Bộ công cụ tác nhân NeMo đóng vai trò quan trọng trong việc lập hồ sơ và tối ưu hóa hiệu suất của tác nhân. Nó cung cấp một hệ thống đánh giá và lập hồ sơ, một công cụ định cỡ để kiểm tra tải và một bộ thu thập OpenTelemetry để giám sát trong quá trình triển khai. Các công cụ này cho phép xác định và khắc phục các điểm nghẽn và lỗi, cho phép tác nhân cung cấp dịch vụ nhanh chóng và phản hồi nhanh chóng cho số lượng lớn người dùng trong khi vẫn duy trì chất lượng báo cáo điều tra. Việc triển khai thành công tác nhân điều tra AI-Q chứng minh hiệu quả của bộ công cụ này trong việc mở rộng các ứng dụng AI sang môi trường sản xuất.

Chia sẻ bài viết này:

Tin tức mới nhất
NVIDIA nhấn mạnh tầm quan trọng của việc chuyển tải dữ liệu JAX Host cho chương trình đào tạo LLM.

NVIDIA nhấn mạnh tầm quan trọng của việc chuyển tải dữ liệu JAX Host cho chương trình đào tạo LLM.

9:00 14/7/26

NVIDIA đã trình bày cách thức giảm tải trên máy chủ (host offloading) trong JAX có thể giảm áp lực lên bộ nhớ băng thông cao của GPU trong quá trình huấn luyện mô hình ngôn ngữ quy mô lớn.

Deutsche Telekom mở rộng ứng dụng trí tuệ nhân tạo (AI) trong hoạt động viễn thông.

Deutsche Telekom mở rộng ứng dụng trí tuệ nhân tạo (AI) trong hoạt động viễn thông.

9:00 14/7/26

Deutsche Telekom đã vạch ra chiến lược trở thành nhà cung cấp dịch vụ viễn thông ứng dụng trí tuệ nhân tạo (AI) bằng cách tích hợp AI tạo sinh vào dịch vụ khách hàng

Meshy tổ chức sự kiện hội thảo về Trí tuệ nhân tạo 3D tại Nhật Bản.

Meshy tổ chức sự kiện hội thảo về Trí tuệ nhân tạo 3D tại Nhật Bản.

9:00 14/7/26

Meshy thông báo sẽ tổ chức hội thảo thực hành chính thức "Meshy 3D Creative Hub" vào ngày 25 tháng 7 tại Tokyo, mang đến cho các nhà sáng tạo

AgriweB cập nhật dịch vụ Trợ lý Trí tuệ Nhân tạo cho Cây trồng

AgriweB cập nhật dịch vụ Trợ lý Trí tuệ Nhân tạo cho Cây trồng

9:00 14/7/26

AgriweB vừa công bố phiên bản nâng cấp của trợ lý quản lý cây trồng dựa trên trí tuệ nhân tạo (AI), bổ sung các tính năng được thiết kế để giúp nông dân xác định

Copyright © 2024 Generatived - All right Reserved.

Chia sẻ bài viết này:

Chia sẻ bài viết này:

Generatived AI Logo

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

  • Facebook
  • X

Hãy theo dõi chúng tôi

Ngôn ngữ

Tin tức mới nhất
NVIDIA nhấn mạnh tầm quan trọng của việc chuyển tải dữ liệu JAX Host cho chương trình đào tạo LLM.

NVIDIA nhấn mạnh tầm quan trọng của việc chuyển tải dữ liệu JAX Host cho chương trình đào tạo LLM.

9:00 14/7/26

NVIDIA đã trình bày cách thức giảm tải trên máy chủ (host offloading) trong JAX có thể giảm áp lực lên bộ nhớ băng thông cao của GPU trong quá trình huấn luyện mô hình ngôn ngữ quy mô lớn.

Deutsche Telekom mở rộng ứng dụng trí tuệ nhân tạo (AI) trong hoạt động viễn thông.

Deutsche Telekom mở rộng ứng dụng trí tuệ nhân tạo (AI) trong hoạt động viễn thông.

9:00 14/7/26

Deutsche Telekom đã vạch ra chiến lược trở thành nhà cung cấp dịch vụ viễn thông ứng dụng trí tuệ nhân tạo (AI) bằng cách tích hợp AI tạo sinh vào dịch vụ khách hàng

Meshy tổ chức sự kiện hội thảo về Trí tuệ nhân tạo 3D tại Nhật Bản.

Meshy tổ chức sự kiện hội thảo về Trí tuệ nhân tạo 3D tại Nhật Bản.

9:00 14/7/26

Meshy thông báo sẽ tổ chức hội thảo thực hành chính thức "Meshy 3D Creative Hub" vào ngày 25 tháng 7 tại Tokyo, mang đến cho các nhà sáng tạo

AgriweB cập nhật dịch vụ Trợ lý Trí tuệ Nhân tạo cho Cây trồng

AgriweB cập nhật dịch vụ Trợ lý Trí tuệ Nhân tạo cho Cây trồng

9:00 14/7/26

AgriweB vừa công bố phiên bản nâng cấp của trợ lý quản lý cây trồng dựa trên trí tuệ nhân tạo (AI), bổ sung các tính năng được thiết kế để giúp nông dân xác định

bottom of page