Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NetApp, Inc. (Chuo-ku, Tokyo) đã thông báo hoàn thành một dự án thử nghiệm chứng minh tính khả thi (PoC) được thực hiện совместно với NTT. Công ty này xác nhận rằng việc huấn luyện AI có thể được thực hiện trong môi trường từ xa mà không ảnh hưởng đến thời gian học tập và hiệu quả năng lượng có thể được cải thiện.

Bằng cách kết hợp công nghệ mạng quang học toàn diện được đề xướng bởi Diễn đàn Toàn cầu IOWN với công nghệ lưu trữ của NetApp, hiệu suất truyền dữ liệu đã được cải thiện gấp 12 lần. Điều này đã giúp cải thiện hiệu quả truy cập tài nguyên GPU từ xa và tiết kiệm điện năng lên đến 30%.

Trong bối cảnh nhu cầu về trí tuệ nhân tạo (AI) ngày càng tăng và cần thiết phải có môi trường điện toán bền vững, chúng tôi đã giải quyết các vấn đề latency liên quan đến việc sử dụng GPU từ xa. Bằng cách kết hợp APN và RDMA để có được khả năng truyền thông không mất dữ liệu và độ trễ thấp, chúng tôi đã đạt được khả năng sử dụng GPU từ xa gần như không mất dữ liệu, giúp cải thiện đáng kể hiệu quả huấn luyện.

Trong một thí nghiệm sử dụng phiên bản "tsuzumi lightweight" của LLM thuộc NTT, hiệu suất suy giảm đã được giữ ở mức dưới 1% ngay cả trong môi trường từ xa 3.000 km. Hiệu suất truyền dữ liệu được cải thiện đáng kể, chứng minh lợi thế của việc sử dụng các trung tâm dữ liệu xanh. NetApp tuyên bố sẽ tiếp tục nỗ lực hướng tới hiện thực hóa cơ sở hạ tầng AI bền vững.