Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Google đã công bố Trillium, Bộ xử lý Tensor (TPU) mới nhất của mình để hỗ trợ các mô hình và ứng dụng AI. Trillium mang lại hiệu suất tính toán cao nhất trên mỗi chip tăng 4,7 lần so với phiên bản tiền nhiệm TPU v5e. Tiến bộ này dự kiến ​​sẽ đẩy nhanh việc đào tạo các mô hình cơ bản mới và làm cho các dịch vụ AI phản ứng nhanh hơn với người dùng trên toàn thế giới.

TPU mới tăng gấp đôi dung lượng và băng thông của bộ nhớ băng thông cao, đồng thời tăng băng thông kết nối giữa chip với chip. Những cải tiến này được thiết kế để hỗ trợ các mô hình AI lớn hơn, phức tạp hơn, đồng thời giảm thời gian và độ trễ đào tạo. Trillium TPU của Google cũng nổi tiếng về hiệu quả sử dụng năng lượng, hiệu quả hơn 67% so với thế hệ trước.

Một điểm nổi bật khác của Trillium là khả năng mở rộng của nó. Kết nối tối đa 256 TPU với một nhóm duy nhất và mở rộng quy mô thành hàng trăm nhóm thông qua công nghệ đa lớp và Bộ xử lý thông minh Titan. Điều này cho phép chúng tôi tạo ra các siêu máy tính có thể xử lý các tác vụ AI đòi hỏi khắt khe nhất.

Những nỗ lực về AI của Google không chỉ dừng lại ở phần cứng để hỗ trợ các thư viện nguồn mở và các mối quan hệ đối tác nhằm hợp lý hóa quá trình phát triển AI. Siêu máy tính AI, bao gồm cả Trillium TPU, cung cấp cơ sở hạ tầng mạnh mẽ cho khối lượng công việc AI và cho phép các nhà phát triển cũng như doanh nghiệp tận dụng các công nghệ AI mới nhất. nước xốt: