Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
%20(1).webp)
Cloud Run giới thiệu tính năng hỗ trợ NVIDIA RTX PRO 6000.
Generatived
9:00 4/2/26
Mới đây, nền tảng điện toán phi máy chủ đã bổ sung hỗ trợ cho GPU NVIDIA RTX PRO™ 6000 Blackwell Server Edition vào dịch vụ Cloud Run của mình. Hiện đang trong giai đoạn thử nghiệm, tính năng mới này cho phép người dùng dễ dàng triển khai các mô hình suy luận quy mô lớn, chẳng hạn như Gemma 3 27B và Llama 3.1 70B, loại bỏ nhu cầu quản lý cụm thủ công và bảo trì máy ảo.
GPU NVIDIA RTX PRO 6000 Blackwell mang lại những cải tiến hiệu năng đáng kể so với các GPU NVIDIA L4 thế hệ trước. Với bộ nhớ vGPU 96GB và băng thông 1,6TB/giây, nó cho phép xử lý các mô hình với hơn 70 tỷ tham số. Giờ đây, người dùng có thể gắn các GPU này vào các dịch vụ, tác vụ hoặc nhóm worker của Cloud Run theo yêu cầu, mà không cần đặt trước.
Nền tảng này hỗ trợ độ chính xác FP4, giúp GPU NVIDIA RTX PRO 6000 Blackwell trở nên lý tưởng để tăng tốc các tác vụ Trí tuệ nhân tạo Generative AI) và suy luận. Nó tạo điều kiện thuận lợi cho việc tạo ra các ứng dụng Generative AI thời gian thực và cho phép mở rộng nhanh chóng các dịch vụ Cloud Run. Ngoài ra, nó còn cung cấp các tùy chọn mở rộng tùy chỉnh cho các khối lượng công việc chuyên biệt thông qua các nhóm công nhân được tăng tốc bằng GPU.
Cloud Run được thiết kế để đơn giản hóa việc chạy các tác vụ tăng tốc GPU trong môi trường sản xuất. Nó cung cấp các tùy chọn tính toán linh hoạt với GPU được quản lý và đảm bảo độ tin cậy ở cấp độ sản xuất với khả năng dự phòng vùng. Dịch vụ này được tích hợp chặt chẽ với toàn bộ hệ sinh thái đám mây để vận hành liền mạch. GPU NVIDIA RTX PRO 6000 Blackwell hiện có sẵn ở một số khu vực nhất định. Người dùng được khuyến khích dùng thử các khả năng của nó bằng cách sử dụng Ollama trên Cloud Run.
Chia sẻ bài viết này:
Tin tức mới nhất
Pacificnet mở rộng phạm vi dịch vụ quản lý và xử lý thiết bị CNTT (ITAD) cho cơ sở hạ tầng AI.
9:00 7/7/26
Pacificnet vừa thông báo mở rộng dịch vụ quản lý tài sản CNTT lỗi thời (ITAD) của mình, không chỉ giới hạn ở máy tính cá nhân mà còn bao gồm cả thiết bị cơ sở hạ tầng trí tuệ nhân tạo (AI)
Nayutam hợp tác với Dock Labs để phát triển công nghệ nhận dạng AI.
9:00 7/7/26
Nayutam vừa công bố hợp tác chiến lược với Dock Labs để mở rộng hợp tác tại thị trường doanh nghiệp Nhật Bản.
Công ty Tokyo Artisan Intelligence đẩy mạnh sản xuất hàng loạt chip AI.
9:00 7/7/26
Tokyo Artisan Intelligence thông báo rằng việc đánh giá chip thử nghiệm AI có thể cấu hình lại, Sting Ray, đã hoàn tất, đánh dấu bước chuyển sang sản xuất hàng loạt.
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp th ông tin về thế giới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
Pacificnet mở rộng phạm vi dịch vụ quản lý và xử lý thiết bị CNTT (ITAD) cho cơ sở hạ tầng AI.
9:00 7/7/26
Pacificnet vừa thông báo mở rộng dịch vụ quản lý tài sản CNTT lỗi thời (ITAD) của mình, không chỉ giới hạn ở máy tính cá nhân mà còn bao gồm cả thiết bị cơ sở hạ tầng trí tuệ nhân tạo (AI)
Nayutam hợp tác với Dock Labs để phát triển công nghệ nhận dạng AI.
9:00 7/7/26
Nayutam vừa công bố hợp tác chiến lược với Dock Labs để mở rộng hợp tác tại thị trường doanh nghiệp Nhật Bản.
Công ty Tokyo Artisan Intelligence đẩy mạnh sản xuất hàng loạt chip AI.
9:00 7/7/26
Tokyo Artisan Intelligence thông báo rằng việc đánh giá chip thử nghiệm AI có thể cấu hình lại, Sting Ray, đã hoàn tất, đánh dấu bước chuyển sang sản xuất hàng loạt.