Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Wade Vinson, kỹ sư trưởng trung tâm dữ liệu của NVIDIA, đã chia sẻ những hiểu biết giá trị về quá trình phát triển của các trung tâm dữ liệu trong bài thuyết trình DC Anti-Conference Live gần đây. Ông đã nêu bật kinh nghiệm của công ty kể từ năm 2016 trong việc thiết kế, xây dựng và vận hành các trung tâm dữ liệu đa megawatt, đóng vai trò thiết yếu để đáp ứng nhu cầu tính toán ngày càng tăng của quy trình làm việc AI. Phương pháp tiếp cận của NVIDIA giúp các trung tâm dữ liệu dễ tiếp cận hơn, hiệu quả hơn và có thể mở rộng quy mô đến mọi quy mô và địa điểm trên toàn thế giới.

Quá trình chuyển đổi của các trung tâm dữ liệu chịu ảnh hưởng lớn từ việc tích hợp GPU, được giới thiệu vào năm 2012. Các GPU này đã thúc đẩy sự thay đổi của ngành bằng cách cho phép xử lý song song, cải thiện đáng kể hiệu quả. Sự cải thiện này rất rõ ràng, với GPU cung cấp hiệu suất gấp 30 lần trên mỗi watt và gấp 60 lần trên mỗi đô la so với các hệ thống dựa trên CPU truyền thống. Sự tiến bộ này không chỉ cải thiện hiệu suất mà còn định hình lại hoạt động của trung tâm dữ liệu để hỗ trợ cơ sở hạ tầng do AI thúc đẩy tiết kiệm chi phí hơn.

Tính bền vững đang trở thành chủ đề chính trong quá trình phát triển của các trung tâm dữ liệu, với những tiến bộ gần đây dẫn đến những cải thiện đáng kể về hiệu quả năng lượng. Ví dụ, năng lượng cần thiết để đào tạo và suy luận các mô hình ngôn ngữ lớn đã giảm từ 40 gigawatt-giờ xuống chỉ còn 3 gigawatt-giờ. Tiến trình này rất quan trọng vì nó tác động đến cả các hoạt động quy mô lớn và các ứng dụng hàng ngày, chẳng hạn như truy vấn ChatGPT thông thường chỉ tiêu thụ 0,4 watt mỗi giờ. Việc tiếp tục tập trung vào hiệu suất trên mỗi watt và đô la dự kiến sẽ tiếp tục thúc đẩy sự đổi mới trên các nền tảng trung tâm dữ liệu.

Bài thuyết trình của Vinson tại sự kiện DC Anti-Conference Live đã nêu bật tầm quan trọng của việc chuyển đổi các trung tâm dữ liệu thành các nhà máy AI, một bước quan trọng hướng tới tương lai của điện toán. Phiên họp cung cấp kiến thức có giá trị cho các tổ chức muốn điều hướng môi trường do AI thúc đẩy trong trung tâm dữ liệu. Các bên quan tâm được khuyến khích xem video bài phát biểu chính để có được thông tin chi tiết giúp dẫn dắt tổ chức của họ vào kỷ nguyên mới này.