Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
%20(1).webp)
NVIDIA hé lộ chi tiết về cơ sở hạ tầng cho Trí tuệ nhân tạo tác nhân (Agentic AI).
Generatived
0:00 8/5/26
NVIDIA đã phác thảo cách thức các tác vụ AI tạo sinh đang chuyển dịch từ tương tác chatbot tiêu chuẩn sang các hệ thống tác nhân tự động quản lý các công cụ, bộ nhớ và các tác nhân con, làm tăng mức tiêu thụ token và độ phức tạp của cơ sở hạ tầng.
Công ty cho biết các ứng dụng AI dựa trên tác nhân có thể tiêu thụ số lượng token nhiều hơn tới 15 lần so với các hệ thống trò chuyện truyền thống. Việc mở rộng cửa sổ ngữ cảnh, hành vi gọi công cụ và quy trình làm việc song song của các tác nhân phụ đang tạo ra những yêu cầu cao hơn về latency, dung lượng bộ nhớ và hiệu quả suy luận.
NVIDIA cũng nhấn mạnh chiến lược nền tảng Vera Rubin của mình, kết hợp các công nghệ mạng Vera Rubin NVL72, Groq 3 LPX, NVLink 6, BlueField-4 và Spectrum-X để hỗ trợ suy luận ngữ cảnh lớn và giảm chi phí phân bổ token cho các mô hình AI tiên tiến.
Bộ phần mềm bao gồm các công nghệ Dynamo, TRT-LLM WideEP, NVFP4 và Giải mã suy đoán nhằm mục đích cải thiện thông lượng và giảm latency cho các mô hình hỗn hợp chuyên gia nghìn tỷ tham số hoạt động với ngữ cảnh lớn tới 400.000 token.
Chia sẻ bài viết này:
Tin tức mới nhất
%20(1).webp)
AWS mở rộng chương trình dành cho sinh viên AI tại Singapore.
0:00 7/5/26
AWS vừa công bố các sáng kiến giáo dục mới tại Singapore, cung cấp cho sinh viên và người học trưởng thành tại các cơ sở giáo dục đại học 1.000 tín chỉ Kiro miễn phí.
%20(1).webp)
Trí tuệ nhân tạo của Microsoft giải thích sự khác biệt về cơ chế tìm kiếm dựa trên dữ liệu.
0:00 7/5/26
Microsoft AI đã công bố một phân tích kỹ thuật nêu rõ sự khác biệt giữa việc lập chỉ mục tìm kiếm truyền thống và các hệ thống định vị được thiết kế cho các phản hồi do AI tạo ra.
%20(1).webp)
LSEG mở rộng khả năng truy cập dữ liệu tài chính thông qua AWS.
0:00 7/5/26
LSEG thông báo rằng các dịch vụ dữ liệu tài chính và phân tích được cấp phép của họ sẽ được tích hợp vào Amazon Quick thông qua máy chủ Giao thức Ngữ cảnh Mô hình (MCP).
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
AWS mở rộng chương trình dành cho sinh viên AI tại Singapore.
0:00 7/5/26
AWS vừa công bố các sáng kiến giáo dục mới tại Singapore, cung cấp cho sinh viên và người học trưởng thành tại các cơ sở giáo dục đại học 1.000 tín chỉ Kiro miễn phí.
Trí tuệ nhân tạo của Microsoft giải thích sự khác biệt về cơ chế tìm kiếm dựa trên dữ liệu.
0:00 7/5/26
Microsoft AI đã công bố một phân tích kỹ thuật nêu rõ sự khác biệt giữa việc lập chỉ mục tìm kiếm truyền thống và các hệ thống định vị được thiết kế cho các phản hồi do AI tạo ra.
LSEG mở rộng khả năng truy cập dữ liệu tài chính thông qua AWS.
0:00 7/5/26
LSEG thông báo rằng các dịch vụ dữ liệu tài chính và phân tích được cấp phép của họ sẽ được tích hợp vào Amazon Quick thông qua máy chủ Giao thức Ngữ cảnh Mô hình (MCP).