Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã bắt tay vào một dự án đổi mới nhằm cải thiện việc quản lý cụm GPU trong trung tâm dữ liệu. Nỗ lực này có tên LLo11yPop, nhằm mục đích phát triển khung tác nhân AI cho phép các nhà khai thác trung tâm dữ liệu tương tác với hệ thống của họ thông qua các truy vấn ngôn ngữ tự nhiên. Khung này được thiết kế để diễn giải và hành động trên dữ liệu đo từ xa phức tạp, đơn giản hóa nhiệm vụ giám sát và duy trì các hoạt động phức tạp của cụm GPU.

Nhóm GPU toàn cầu của công ty, bao gồm nhiều nhà cung cấp dịch vụ đám mây và trung tâm dữ liệu riêng của NVIDIA, đòi hỏi khả năng quan sát ở mức độ cao để cung cấp khả năng tăng tốc một cách hiệu quả và kịp thời. Dự án LLo11yPop tận dụng các vi dịch vụ NIM hiện có của NVIDIA để cho phép tương tác với cơ sở dữ liệu và mở rộng chức năng này sang các hệ thống có khả năng quan sát. Với Elaticsearch, hệ thống tác nhân AI của bạn có thể trả lời các truy vấn cụ thể về nhóm GPU của bạn và cung cấp thông tin chi tiết hữu ích, chẳng hạn như xác định các cụm thường xuyên gặp lỗi quạt.

Cách tiếp cận của NVIDIA để xây dựng các khung tác nhân có khả năng quan sát bao gồm một mô hình tổng hợp nhiều LLM kết hợp nhiều vai trò tác nhân khác nhau để điều phối, thực hiện nhiệm vụ và phân tích. Các tác nhân này được cấu trúc theo thứ bậc, phản ánh vai trò của tổ chức, từ giám đốc đến công nhân, mỗi người có chức năng chuyên biệt. Khung này cũng bao gồm một mô hình giám sát phân công nhiệm vụ cho các tác nhân phân tích và cho phép họ truy vấn các nguồn dữ liệu để biết thông tin.

Công ty nhấn mạnh tầm quan trọng của việc bắt đầu với kỹ thuật nhanh chóng và sử dụng nhiều tác nhân khác nhau trước khi chuyển sang đào tạo mô hình phức tạp hơn. Công ty chủ trương lựa chọn mô hình phù hợp cho từng nhiệm vụ và duy trì sự giám sát của con người cho đến khi hành vi của hệ thống AI được chứng minh là chính xác và đáng tin cậy. Trải nghiệm của NVIDIA với LLo11yPop cung cấp cái nhìn sâu sắc có giá trị cho những ai quan tâm đến việc xây dựng các ứng dụng tác nhân AI và trang web của công ty cung cấp thêm tài nguyên.