Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Turing (Thành phố Kashiwa, tỉnh Chiba) thông báo rằng họ đã bắt đầu xây dựng chuỗi cụm GPU "Gaggle Cluster" như một nền tảng tính toán chuyên dụng cho các mô hình ngôn ngữ quy mô lớn (LLM) và các mô hình đa phương thức, với mục đích hiện thực hóa AI lái xe tự động hoàn toàn. . làm. Cụm đầu tiên được xây dựng, "Gaggle-Cluster-1", sẽ được trang bị 96 GPU NVIDIA H100 và có tổng công suất tính toán là 190 PFLOPS, trở thành cụm GPU lớn nhất cho nền tảng điện toán GPU do một công ty trong nước sở hữu độc quyền . Công ty đặt mục tiêu bắt đầu vận hành toàn bộ hệ thống vào nửa đầu năm 2024.

Gaggle-Cluster-1 không chỉ bao gồm một số lượng lớn máy chủ GPU mà còn tối đa hóa băng thông liên lạc và tốc độ lưu trữ giữa các máy chủ, cho phép thực hiện việc học trên quy mô lớn bằng cách sử dụng toàn bộ cụm như một "máy tính duy nhất". rằng nó được tối ưu hóa cho nhiệm vụ. Bằng cách sử dụng công nghệ học song song phân tán, có thể đào tạo các mô hình có tham số cực lớn, bao gồm LLM, một cách nhanh chóng và hiệu quả.

Cái tên "Gaggle Cluster" được lấy cảm hứng từ hình ảnh một đàn ngỗng cùng bay trên bầu trời và tưởng tượng một số lượng lớn GPU kết hợp với nhau và làm việc cùng nhau để giải quyết một vấn đề tính toán quy mô lớn. Turing sẽ sử dụng Gaggle Cluster tốc độ cao và các tài nguyên điện toán đám mây có thể mở rộng để phát triển các mô hình đa phương thức quy mô lớn của riêng mình, bao gồm LLM và đẩy nhanh quá trình phát triển theo hướng hiện thực hóa AI lái xe tự động hoàn toàn.

Trong những năm gần đây, với sự phát triển của công nghệ AI, các mô hình ngôn ngữ quy mô lớn (LLM) đang thu hút được sự chú ý. LLM là một mô hình AI có thể học từ lượng lớn dữ liệu văn bản để tạo ra các câu và trả lời câu hỏi tự nhiên giống con người. Turing tin rằng để hiện thực hóa việc lái xe tự động hoàn toàn, cần phải có một AI lái xe tự động ít nhất hiểu được thế giới cũng như con người và ông tin rằng một AI lái xe tự động có thể hiểu thế giới ở mức cực cao thông qua ngôn ngữ, bao gồm cả LLM, sẽ là cần thiết. Công ty được cho là đang nghiên cứu phát triển một mô hình phương thức.