top of page

Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

logo.png

SoftBank công bố bộ điều phối AI vRAN được hỗ trợ bởi công nghệ NVIDIA

Generatived

4:30 14/11/24

SoftBank đã công bố một bộ điều phối được thiết kế để hỗ trợ hoạt động của các ứng dụng AI và vRAN trên cơ sở hạ tầng ảo hóa dùng chung, một khái niệm cốt lõi của AI-RAN. Sự đổi mới này cho phép triển khai vRAN dung lượng cao, hiệu suất cao trên các nền tảng điện toán GPU như NVIDIA GH200 Grace Hopper Superchip. Bộ điều phối cũng tích hợp nhiều ứng dụng AI khác nhau, bao gồm cả AI tổng hợp, cung cấp nền tảng linh hoạt cho các dịch vụ cấp nhà cung cấp dịch vụ.

Công ty đã giải quyết các thách thức của các cấu hình máy chủ và SLA khác nhau dành cho khối lượng công việc AI và vRAN bằng cách tạo ra một bộ điều phối có thể điều chỉnh cài đặt cơ sở hạ tầng để đáp ứng các yêu cầu cụ thể. Giải pháp này được kỳ vọng sẽ cải thiện hiệu quả hoạt động và chi phí. Nó bao gồm API không có máy chủ được cung cấp bởi NVIDIA AI Enterprise, cho phép người dùng chạy các ứng dụng AI của riêng họ trên cơ sở hạ tầng AI-RAN ảo hóa.

Orchestrator của SoftBank được thiết kế để giải quyết các nhu cầu khác nhau của ứng dụng AI và vRAN, mỗi ứng dụng đều yêu cầu độ trễ cực thấp và quản lý bộ nhớ hiệu quả. Bộ điều phối được phát triển bằng Red Hat OpenShift quản lý tài nguyên để đảm bảo hoạt động liền mạch của các ứng dụng trên nền tảng và chính bộ điều phối, tối ưu hóa hiệu suất dựa trên tính khả dụng của tài nguyên theo thời gian thực.

Alex Jin-Sung Choi của Viện nghiên cứu công nghệ tiên tiến SoftBank nhấn mạnh tầm quan trọng của việc tích hợp nhiều thành phần khác nhau để đạt được thành công của AI-RAN. Chris Wright của Red Hat đã nhấn mạnh nền tảng tích hợp mà Red Hat OpenShift cung cấp cho việc triển khai các mạng thông minh và ứng dụng AI. Soma Velayuttam của NVIDIA đã nhận ra vai trò của người điều phối trong việc tạo ra thị trường AI cho cơ sở hạ tầng AI-RAN, tạo cơ hội doanh thu đáng kể cho các nhà mạng. SoftBank tiếp tục mở rộng ra ngoài lĩnh vực viễn thông, tận dụng AI để nâng cao hiệu suất mạng và cung cấp cơ sở hạ tầng xã hội thế hệ tiếp theo.

Chia sẻ bài viết này:

Tin tức mới nhất
NVIDIA báo cáo sự gia tăng mạnh mẽ trong việc ứng dụng AI trên toàn ngành.

NVIDIA báo cáo sự gia tăng mạnh mẽ trong việc ứng dụng AI trên toàn ngành.

0:00 11/3/26

Việc triển khai các mô hình ngôn ngữ lớn (LLM) trong các ứng dụng AI đã dẫn đến sự phát triển của các khung suy luận phân tán giúp tăng cường khả năng mở rộng và giảm latency.

TII nâng cấp lõi NVIDIA Megatron với khả năng tích hợp Falcon.

TII nâng cấp lõi NVIDIA Megatron với khả năng tích hợp Falcon.

0:00 11/3/26

Báo cáo "Tình trạng AI" mới nhất của NVIDIA tiết lộ sự bùng nổ trong việc ứng dụng AI trên nhiều ngành công nghiệp khác nhau,

Microsoft công bố mở rộng Microsoft 365 Copilot.

Microsoft công bố mở rộng Microsoft 365 Copilot.

0:00 11/3/26

NVIDIA Megatron Core đã trở thành một khung sườn quan trọng để huấn luyện các mô hình ngôn ngữ quy mô lớn

NVIDIA AIConfigurator giúp đơn giản hóa việc triển khai mô hình ngôn ngữ quy mô lớn.

NVIDIA AIConfigurator giúp đơn giản hóa việc triển khai mô hình ngôn ngữ quy mô lớn.

0:00 11/3/26

AIConfigurator đã nổi lên như một công cụ thiết yếu để tối ưu hóa việc triển khai các mô hình ngôn ngữ lớn (LLM)

Copyright © 2024 Generatived - All right Reserved.

Chia sẻ bài viết này:

Chia sẻ bài viết này:

Generatived AI Logo

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

  • Facebook
  • X

Hãy theo dõi chúng tôi

Ngôn ngữ

Tin tức mới nhất
NVIDIA báo cáo sự gia tăng mạnh mẽ trong việc ứng dụng AI trên toàn ngành.

NVIDIA báo cáo sự gia tăng mạnh mẽ trong việc ứng dụng AI trên toàn ngành.

0:00 11/3/26

Việc triển khai các mô hình ngôn ngữ lớn (LLM) trong các ứng dụng AI đã dẫn đến sự phát triển của các khung suy luận phân tán giúp tăng cường khả năng mở rộng và giảm latency.

TII nâng cấp lõi NVIDIA Megatron với khả năng tích hợp Falcon.

TII nâng cấp lõi NVIDIA Megatron với khả năng tích hợp Falcon.

0:00 11/3/26

Báo cáo "Tình trạng AI" mới nhất của NVIDIA tiết lộ sự bùng nổ trong việc ứng dụng AI trên nhiều ngành công nghiệp khác nhau,

Microsoft công bố mở rộng Microsoft 365 Copilot.

Microsoft công bố mở rộng Microsoft 365 Copilot.

0:00 11/3/26

NVIDIA Megatron Core đã trở thành một khung sườn quan trọng để huấn luyện các mô hình ngôn ngữ quy mô lớn

NVIDIA AIConfigurator giúp đơn giản hóa việc triển khai mô hình ngôn ngữ quy mô lớn.

NVIDIA AIConfigurator giúp đơn giản hóa việc triển khai mô hình ngôn ngữ quy mô lớn.

0:00 11/3/26

AIConfigurator đã nổi lên như một công cụ thiết yếu để tối ưu hóa việc triển khai các mô hình ngôn ngữ lớn (LLM)

bottom of page