top of page

Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

logo.png

Google Cloud mở rộng bộ năng lực AI của NVIDIA

Generatived

9:00 30/10/25

Google Cloud thông báo sẽ mở rộng hợp tác với NVIDIA để giới thiệu một loạt tính năng mới nhằm nâng cao khả năng phát triển và triển khai AI. Các phiên bản A4X Max mới, được trang bị GPU GB300 NVL72 của NVIDIA, được thiết kế riêng cho các tác vụ AI phức tạp liên quan đến nhiều chế độ suy luận. Các phiên bản này có 72 GPU Blackwell Ultra và 36 CPU NVIDIA Grace, được kết nối với nhau thông qua NVIDIA NVLink để tạo ra một nền tảng điện toán thống nhất với bộ nhớ chia sẻ và giao tiếp băng thông rộng.

Google Kubernetes Engine (GKE) hiện hỗ trợ Trình điều khiển Mạng Kubernetes Phân bổ Tài nguyên Động (DRANET), giúp cải thiện băng thông cho các khối lượng công việc AI và học máy phân tán. Ngoài ra, GKE Inference Gateway hiện đã được tích hợp với NVIDIA NeMo Guardrails, và các mô hình NVIDIA Nemotron sẽ sớm có mặt trong Vertex AI Model Garden. Vertex AI TrainingVertex được cải tiến với các công thức dựa trên NVIDIA NeMo Framework và NeMo-RL, giúp đơn giản hóa việc phát triển các mô hình quy mô lớn.

Các phiên bản A4X Max của Google Cloud được thiết kế để tối ưu hóa suy luận AI, cải thiện đáng kể latency và thông lượng cho các mô hình suy luận quy mô lớn. Các phiên bản này cũng nâng cao hiệu suất đào tạo và phục vụ, mang lại hiệu suất gấp 4 lần so với các mô hình trước đây. Cấu trúc mạng của A4X Max, dựa trên RDMA trên Ethernet hội tụ (RoCE), mang lại khả năng mở rộng và tính song song tối đa cho các khối lượng công việc đào tạo và phục vụ phân tán.

Việc tích hợp NVIDIA NeMo Guardrails với GKE Inference Gateway mang đến một giải pháp Vertex an toàn và có khả năng mở rộng để triển khai các mô hình AI, đảm bảo tính an toàn và hành vi có trách nhiệm của chúng. Hỗ trợ cho các mô hình Nemotron của NVIDIA sẽ sớm có trong Vertex AI Model Garden, cho phép các nhà phát triển tạo ra các tác nhân VertexAI bằng cách sử dụng các mô hình trọng số mở mới nhất. Tiện ích mở rộng Vertex AI Training giúp đơn giản hóa việc phát triển các mô hình tùy chỉnh với môi trường được quản lý và các công thức đào tạo được tối ưu hóa.

"Bản cập nhật Google Cloud Platform này phản ánh cam kết của chúng tôi trong việc cung cấp một hệ sinh thái toàn diện cho việc phát triển và triển khai AI, tận dụng công nghệ NVIDIA để hỗ trợ phát triển các ứng dụng AI thế hệ tiếp theo. Các dịch vụ cơ sở hạ tầng nâng cao của chúng tôi được thiết kế để cung cấp cho các nhà phát triển và tổ chức những công cụ họ cần để xây dựng các giải pháp AI tiên tiến một cách hiệu quả", Mike S.

Chia sẻ bài viết này:

Tin tức mới nhất
JAPAN AI đã cải thiện thành công hiệu quả hoạt động.

JAPAN AI đã cải thiện thành công hiệu quả hoạt động.

9:00 17/3/26

Công ty JAPAN AI (Shinjuku-ku, Tokyo) đã ứng dụng trí tuệ nhân tạo (AI) vào hoạt động của Layers Consulting (Shinagawa-ku, Tokyo)

Một chương trình nhằm trau dồi kỹ năng phán đoán trong thời đại các yêu cầu từ trí tuệ nhân tạo.

Một chương trình nhằm trau dồi kỹ năng phán đoán trong thời đại các yêu cầu từ trí tuệ nhân tạo.

9:00 17/3/26

Công ty Request (Shinjuku-ku, Tokyo) đã ra mắt chương trình "Học tập dựa trên dự án để thiết kế trải nghiệm ra quyết định"

AWS và Cerebra ra mắt giải pháp suy luận AI nhanh.

AWS và Cerebra ra mắt giải pháp suy luận AI nhanh.

9:00 17/3/26

Amazon Web Services (AWS) vừa công bố hợp tác với Cerebras Systems để giới thiệu giải pháp suy luận AI nhanh nhất dành cho các ứng dụng AI tạo sinh.

Parrot Analytics hợp tác với AWS để cung cấp giải pháp truyền thông dựa trên trí tuệ nhân tạo.

Parrot Analytics hợp tác với AWS để cung cấp giải pháp truyền thông dựa trên trí tuệ nhân tạo.

9:00 17/3/26

Parrot Analytics đã lựa chọn Amazon Web Services (AWS) làm nhà cung cấp dịch vụ đám mây chính, tích hợp Amazon Bedrock và các công nghệ liên quan vào bộ sản phẩm của mình.

Copyright © 2024 Generatived - All right Reserved.

Chia sẻ bài viết này:

Chia sẻ bài viết này:

Generatived AI Logo

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

  • Facebook
  • X

Hãy theo dõi chúng tôi

Ngôn ngữ

Tin tức mới nhất
JAPAN AI đã cải thiện thành công hiệu quả hoạt động.

JAPAN AI đã cải thiện thành công hiệu quả hoạt động.

9:00 17/3/26

Công ty JAPAN AI (Shinjuku-ku, Tokyo) đã ứng dụng trí tuệ nhân tạo (AI) vào hoạt động của Layers Consulting (Shinagawa-ku, Tokyo)

Một chương trình nhằm trau dồi kỹ năng phán đoán trong thời đại các yêu cầu từ trí tuệ nhân tạo.

Một chương trình nhằm trau dồi kỹ năng phán đoán trong thời đại các yêu cầu từ trí tuệ nhân tạo.

9:00 17/3/26

Công ty Request (Shinjuku-ku, Tokyo) đã ra mắt chương trình "Học tập dựa trên dự án để thiết kế trải nghiệm ra quyết định"

AWS và Cerebra ra mắt giải pháp suy luận AI nhanh.

AWS và Cerebra ra mắt giải pháp suy luận AI nhanh.

9:00 17/3/26

Amazon Web Services (AWS) vừa công bố hợp tác với Cerebras Systems để giới thiệu giải pháp suy luận AI nhanh nhất dành cho các ứng dụng AI tạo sinh.

Parrot Analytics hợp tác với AWS để cung cấp giải pháp truyền thông dựa trên trí tuệ nhân tạo.

Parrot Analytics hợp tác với AWS để cung cấp giải pháp truyền thông dựa trên trí tuệ nhân tạo.

9:00 17/3/26

Parrot Analytics đã lựa chọn Amazon Web Services (AWS) làm nhà cung cấp dịch vụ đám mây chính, tích hợp Amazon Bedrock và các công nghệ liên quan vào bộ sản phẩm của mình.

bottom of page