Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
%20(1).webp)
Cloud Run giới thiệu tính năng hỗ trợ NVIDIA RTX PRO 6000.
Generatived
9:00 4/2/26
Mới đây, nền tảng điện toán phi máy chủ đã bổ sung hỗ trợ cho GPU NVIDIA RTX PRO™ 6000 Blackwell Server Edition vào dịch vụ Cloud Run của mình. Hiện đang trong giai đoạn thử nghiệm, tính năng mới này cho phép người dùng dễ dàng triển khai các mô hình suy luận quy mô lớn, chẳng hạn như Gemma 3 27B và Llama 3.1 70B, loại bỏ nhu cầu quản lý cụm thủ công và bảo trì máy ảo.
GPU NVIDIA RTX PRO 6000 Blackwell mang lại những cải tiến hiệu năng đáng kể so với các GPU NVIDIA L4 thế hệ trước. Với bộ nhớ vGPU 96GB và băng thông 1,6TB/giây, nó cho phép xử lý các mô hình với hơn 70 tỷ tham số. Giờ đây, người dùng có thể gắn các GPU này vào các dịch vụ, tác vụ hoặc nhóm worker của Cloud Run theo yêu cầu, mà không cần đặt trước.
Nền tảng này hỗ trợ độ chính xác FP4, giúp GPU NVIDIA RTX PRO 6000 Blackwell trở nên lý tưởng để tăng tốc các tác vụ Trí tuệ nhân tạo Generative AI) và suy luận. Nó tạo điều kiện thuận lợi cho việc tạo ra các ứng dụng Generative AI thời gian thực và cho phép mở rộng nhanh chóng các dịch vụ Cloud Run. Ngoài ra, nó còn cung cấp các tùy chọn mở rộng tùy chỉnh cho các khối lượng công việc chuyên biệt thông qua các nhóm công nhân được tăng tốc bằng GPU.
Cloud Run được thiết kế để đơn giản hóa việc chạy các tác vụ tăng tốc GPU trong môi trường sản xuất. Nó cung cấp các tùy chọn tính toán linh hoạt với GPU được quản lý và đảm bảo độ tin cậy ở cấp độ sản xuất với khả năng dự phòng vùng. Dịch vụ này được tích hợp chặt chẽ với toàn bộ hệ sinh thái đám mây để vận hành liền mạch. GPU NVIDIA RTX PRO 6000 Blackwell hiện có sẵn ở một số khu vực nhất định. Người dùng được khuyến khích dùng thử các khả năng của nó bằng cách sử dụng Ollama trên Cloud Run.
Chia sẻ bài viết này:
Tin tức mới nhất
AItegrity xây dựng hệ thống AI để lên lịch phỏng vấn.
9:00 20/7/26
AItegrity đã phát triển một nguyên mẫu hệ thống lập lịch phỏng vấn tự động bằng trí tuệ nhân tạo để hỗ trợ các nhóm nhân sự của một công ty xây dựng nhà ở lớn trong việc thực hiện 300
Multiverse Computing huy động được 570 triệu đô la trong vòng gọi vốn Series C.
9:00 20/7/26
Công ty Multiverse Computing (San Sebastian) đã huy động được 570 triệu đô la trong vòng gọi vốn Series C với định giá trước đầu tư là 1,7 tỷ đô la, tăng gấp năm lần so với vòng Series B.
NVIDIA chia sẻ hướng dẫn thiết kế phần cứng cho LLM.
9:00 14/7/26
NVIDIA đã phát hành một hướng dẫn thiết kế phác thảo các phương pháp thực hành nhận biết phần cứng cho các mô hình ngôn ngữ lớn.
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp th ông tin về thế giới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
AItegrity xây dựng hệ thống AI để lên lịch phỏng vấn.
9:00 20/7/26
AItegrity đã phát triển một nguyên mẫu hệ thống lập lịch phỏng vấn tự động bằng trí tuệ nhân tạo để hỗ trợ các nhóm nhân sự của một công ty xây dựng nhà ở lớn trong việc thực hiện 300
Multiverse Computing huy đ ộng được 570 triệu đô la trong vòng gọi vốn Series C.
9:00 20/7/26
Công ty Multiverse Computing (San Sebastian) đã huy động được 570 triệu đô la trong vòng gọi vốn Series C với định giá trước đầu tư là 1,7 tỷ đô la, tăng gấp năm lần so với vòng Series B.
NVIDIA chia sẻ hướng dẫn thiết kế phần cứng cho LLM.
9:00 14/7/26
NVIDIA đã phát hành một hướng dẫn thiết kế phác thảo các phương pháp thực hành nhận biết phần cứng cho các mô hình ngôn ngữ lớn.