Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Google Cloud vừa công bố một loạt bản cập nhật cho AI Hypercomputer, một hệ thống siêu máy tính tích hợp dùng để đào tạo và phục vụ các mô hình AI ở quy mô lớn. Hệ thống đã được cải tiến với Cluster Director, giúp đơn giản hóa việc quản lý tài nguyên tính toán, mạng và lưu trữ. Ngoài ra, dự án llm-d cũng đã phát hành một phiên bản mới giúp tăng tốc việc triển khai các mô hình suy luận quy mô lớn trên Google Kubernetes Engine.

Bộ lập lịch khối lượng công việc động của siêu máy tính AI mang đến các tùy chọn sử dụng linh hoạt, bao gồm chế độ lịch cho khối lượng công việc có thể dự đoán được và chế độ khởi động linh hoạt cho phép sử dụng tài nguyên theo yêu cầu với thời gian khởi động linh hoạt. Các chế độ này nhằm mục đích tối ưu hóa tài nguyên điện toán và cung cấp giải pháp tiết kiệm chi phí cho việc đào tạo và phục vụ các mô hình AI. Việc hỗ trợ các thư viện và khung AI và ML phổ biến cũng mở rộng hơn nữa tính linh hoạt của hệ thống và sự lựa chọn của người dùng.

Siêu máy tính AI của Google Cloud tiếp tục phát triển với sự bổ sung của MaxText và MaxDiffusion, các giải pháp nguồn mở dùng để đào tạo các mô hình ngôn ngữ quy mô lớn (LLM) và mô hình khuếch tán. Các giải pháp này cung cấp khả năng triển khai hiệu suất cao, công thức có khả năng tái tạo cao và hỗ trợ các mô hình phổ biến, giúp đơn giản hóa quy trình đào tạo cho người dùng. Việc tích hợp với MaxText, một thư viện hậu đào tạo gốc JAX, cung cấp các chức năng toàn diện trước và sau đào tạo.

Để cải thiện hiệu suất khối lượng công việc AI, Google Cloud đã phát hành thư viện giám sát mới cho TPU và cải thiện dịch vụ Managed Lustre cho điện toán hiệu năng cao. Managed Lustre hiện cung cấp bốn tầng hiệu suất, hỗ trợ các tập dữ liệu lớn hơn và tích hợp liền mạch với Cluster Director và GKE để tạo điều kiện thuận lợi cho quy trình đào tạo AI. Những cập nhật này phản ánh cam kết của Google Cloud trong việc cung cấp các công cụ và tài nguyên tiên tiến cho việc phát triển và triển khai AI.