Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Tại sự kiện GTC 2026, NVIDIA đã tiết lộ rằng các nhà cung cấp dịch vụ viễn thông và điện toán đám mây đang điều chỉnh mạng lưới của họ để hỗ trợ các dịch vụ dựa trên trí tuệ nhân tạo (AI) bằng cách tạo ra các lưới AI. Các lưới này được thiết kế để tích hợp khả năng tính toán tăng tốc trên toàn bộ mạng lưới các điểm hiện diện khu vực, văn phòng trung tâm, trung tâm đô thị và các vị trí biên. Mục tiêu là cung cấp trải nghiệm AI đa phương thức, thời gian thực và được cá nhân hóa cao trên quy mô lớn bằng cách chạy suy luận trên cơ sở hạ tầng AI phân tán, có khả năng nhận biết khối lượng công việc, tài nguyên và các chỉ số hiệu suất chính.

Thiết kế tham chiếu AI Grid của công ty cung cấp bản kế hoạch chi tiết để xây dựng cơ sở hạ tầng AI phân tán về mặt địa lý, được kết nối và điều phối chặt chẽ. Thiết kế này tích hợp các tài sản mạng hiện có vào một lưới AI thống nhất, được quản lý bởi một mặt phẳng điều khiển đảm bảo việc phân bổ khối lượng công việc một cách thông minh. Chức năng chính của mặt phẳng điều khiển là xác định vị trí tối ưu cho mỗi khối lượng công việc, có tính đến các yêu cầu latency , các ràng buộc về chủ quyền và các yếu tố chi phí, cũng như tình trạng và mức độ sử dụng của các nút.

Mạng lưới AI đặc biệt có lợi cho các ứng dụng mà latency, băng thông, cá nhân hóa hoặc chủ quyền dữ liệu là những yếu tố thiết kế quan trọng. Các mạng lưới này rất cần thiết cho các ứng dụng như AI vật lý, tác nhân hội thoại, AR/VR, thiết bị đeo, khối lượng công việc AI về thị giác và truyền thông, và đề xuất người dùng được cá nhân hóa. Bằng cách tối ưu hóa các KPI cụ thể, mạng lưới AI có thể mang lại trải nghiệm người dùng nhất quán và duy trì hiệu quả kinh tế bền vững.

Mạng lưới AI của NVIDIA cũng đóng vai trò quan trọng trong việc hỗ trợ các tác vụ xử lý giọng nói, hình ảnh và đa phương tiện ở quy mô lớn. Ví dụ, các dịch vụ AI giọng nói yêu cầu latency đầu cuối thấp để tránh hiện tượng giật lag trong các cuộc hội thoại, và mạng lưới AI có thể giảm đáng kể latency này bằng cách đặt quá trình suy luận gần người dùng hơn. Tương tự, các tác vụ AI hình ảnh, xử lý khối lượng dữ liệu lớn, được hưởng lợi từ mạng lưới AI bằng cách xử lý nội dung video gần nguồn hơn, do đó giảm latency và chi phí truyền tải mạng. Trong lĩnh vực đa phương tiện, mạng lưới AI tạo điều kiện cho việc cá nhân hóa tối đa bằng cách chạy các đường dẫn truyền phát có độ trễ thấp trên các nút biên phân tán, đảm bảo nội dung được phân phối trong phạm vi thời gian nghiêm ngặt.

Tóm lại, khi các dịch vụ dựa trên trí tuệ nhân tạo (AI) tiếp tục mở rộng, vai trò của mạng lưới viễn thông và phân phối nội dung đang thay đổi. Các mạng lưới này không chỉ đơn thuần là kênh truyền tải dữ liệu mà đang trở thành một phần không thể thiếu trong việc thực thi các mô hình AI, đảm bảo các dịch vụ như thoại, hình ảnh và đa phương tiện đáp ứng được các yêu cầu về latency, khả năng xử lý đồng thời, chi phí và chủ quyền dữ liệu ở quy mô lớn.