Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo
Những phát triển mới trong cơ sở hạ tầng AI của Google và hiệu suất cực cao
Generatived
13:30 28/1/25
Google(Tokyo) đã công bố những tiến bộ mới nhất trong cơ sở hạ tầng AI của mình, bao gồm việc ra mắt TPU thế hệ thứ 6 "Trillium", phát hành "A3 Ultra VM" với GPU NVIDIA H200 và hỗ trợ tới 65.000 nút trên Google Kubernetes Engine (GKE). Ngoài ra, "Parallelstore" cung cấp dịch vụ hệ thống tệp phân tán cho khối lượng công việc HPC và AI.
AI Hypercomputer là phương pháp tiếp cận cấp hệ thống dựa trên nhiều thập kỷ kinh nghiệm của Google, kết hợp phần cứng được tối ưu hóa với phần mềm mở, khuôn khổ và mô hình tiêu thụ linh hoạt. Khi xây dựng các giải pháp AI trên Google Cloud, bạn có thể chọn các thành phần cơ sở hạ tầng chuyên dụng của riêng mình.
A3 Ultra VM sử dụng GPU NVIDIA Hopper, với băng thông mạng GPU-to-GPU gấp đôi và HBM. Nó kết hợp bộ điều hợp mạng Titanium ML với NIC NVIDIA ConnectX-7 để hoạt động với mạng trung tâm dữ liệu của Google nhằm cung cấp tới 3,2 Tbps truyền thông giữa các GPU. Nó cũng khả dụng thông qua GKE, hữu ích cho việc đào tạo và phục vụ khối lượng công việc AI.
Hypercompute Cluster là một nền tảng dịch vụ siêu máy tính trên một siêu máy tính AI có thể triển khai và quản lý nhiều máy gia tốc như một đơn vị duy nhất. Nó có mạng lưới latency cực thấp, cấu hình mục tiêu và quản lý bảo trì tiên tiến để giúp đạt được mục tiêu về thông lượng và khả năng phục hồi. LG AI Research đang sử dụng cơ sở hạ tầng này để thúc đẩy các sáng kiến AI của mình.
Google Cloud TPU đã có những bước tiến lớn trong suy luận AI, với Trillium TPU đạt được thông lượng suy luận lên đến 3 lần so với thế hệ TPU v5e trước. Nhiều tùy chọn phục vụ có sẵn tùy thuộc vào nhu cầu của người dùng, bao gồm Vertex AI, JetStream, MaxDiffusion, Optimum TPU và Hugging Face TGI. Google Colab hiện hỗ trợ Cloud TPU (TPU v5e), cho phép nhiều người dùng dùng thử TPU hơn.
Google Cloud tiếp tục mở rộng ranh giới của cơ sở hạ tầng AI với Siêu máy tính AI và mục tiêu Google là tận dụng các khả năng mới để mang lại hiệu suất, hiệu quả và dễ sử dụng nhằm đẩy nhanh hành trình AI của bạn.
Chia sẻ bài viết này:
Tin tức mới nhất
AItegrity xây dựng hệ thống AI để lên lịch phỏng vấn.
9:00 20/7/26
AItegrity đã phát triển một nguyên mẫu hệ thống lập lịch phỏng vấn tự động bằng trí tuệ nhân tạo để hỗ trợ các nhóm nhân sự của một công ty xây dựng nhà ở lớn trong việc thực hiện 300
Multiverse Computing huy động được 570 triệu đô la trong vòng gọi vốn Series C.
9:00 20/7/26
Công ty Multiverse Computing (San Sebastian) đã huy động được 570 triệu đô la trong vòng gọi vốn Series C với định giá trước đầu tư là 1,7 tỷ đô la, tăng gấp năm lần so với vòng Series B.
NVIDIA chia sẻ hướng dẫn thiết kế phần cứng cho LLM.
9:00 14/7/26
NVIDIA đã phát hành một hướng dẫn thiết kế phác thảo các phương pháp thực hành nhận biết phần cứng cho các mô hình ngôn ngữ lớn.
Copyright © 2024 Generatived - All right Reserved.
Chia sẻ bài viết này:
Chia sẻ bài viết này:
Danh mục
Tin tức
AI và luật/hệ thống/kinh tế/xã hội
Hãy theo dõi chúng tôi
Ngôn ngữ
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.
Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp th ông tin về thế giới đang thay đổi nhanh chóng.
Hãy theo dõi chúng tôi
Ngôn ngữ
Tin tức mới nhất
AItegrity xây dựng hệ thống AI để lên lịch phỏng vấn.
9:00 20/7/26
AItegrity đã phát triển một nguyên mẫu hệ thống lập lịch phỏng vấn tự động bằng trí tuệ nhân tạo để hỗ trợ các nhóm nhân sự của một công ty xây dựng nhà ở lớn trong việc thực hiện 300
Multiverse Computing huy đ ộng được 570 triệu đô la trong vòng gọi vốn Series C.
9:00 20/7/26
Công ty Multiverse Computing (San Sebastian) đã huy động được 570 triệu đô la trong vòng gọi vốn Series C với định giá trước đầu tư là 1,7 tỷ đô la, tăng gấp năm lần so với vòng Series B.
NVIDIA chia sẻ hướng dẫn thiết kế phần cứng cho LLM.
9:00 14/7/26
NVIDIA đã phát hành một hướng dẫn thiết kế phác thảo các phương pháp thực hành nhận biết phần cứng cho các mô hình ngôn ngữ lớn.