Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

IDC Frontier (Chiyoda-ku, Tokyo) đã thông báo rằng CyberAgent (Shibuya-ku, Tokyo) sẽ sử dụng “dịch vụ nhà ở có tải trọng cao” được cung cấp tại trung tâm dữ liệu của IDC Frontier để xây dựng cơ sở hạ tầng phát triển AI quy mô lớn như phát triển AI của Nhật Bản . thông báo rằng anh ấy đã được thuê. CyberAgent cung cấp một môi trường học tập phân tán mạnh mẽ với một nhóm máy chủ được trang bị 80 GPU NVIDIA H100 Tensor Core, lớn nhất ở Nhật Bản và ``dịch vụ nhà ở tải trọng cao'' hỗ trợ các thiết bị tạo nhiệt cực cao như GPU/HPC máy chủ bằng cách hoạt động ổn định với ``Mô hình ngôn ngữ lớn'', LLM (Mô hình ngôn ngữ lớn) lớn nhất tại Nhật Bản, chúng tôi đã đạt được sự cải thiện hiệu suất xử lý gấp 2,57 lần (*1) so với mô hình trước đó. CyberAgent bắt đầu nghiên cứu và phát triển AI trong hoạt động kinh doanh quảng cáo trên internet của mình vào năm 2016 và vào năm 2020, công ty bắt đầu cung cấp nhiều sản phẩm dự đoán hiệu ứng khác nhau sử dụng AI như "AI dự đoán cực" và các sản phẩm liên quan đến quảng cáo áp dụng phân tích AI. trong nghiên cứu và phát triển của mình, chúng tôi đã giới thiệu NVIDIA DGX A100, hệ thống được trang bị GPU mới nhất vào thời điểm đó. GPU, có thể xử lý lượng dữ liệu khổng lồ ở tốc độ cao, tỏa ra nhiều năng lượng và nhiệt hơn so với máy chủ CPU, nhưng IDC Frontier, công ty có kinh nghiệm vận hành GPU, vận hành hệ thống tại một trung tâm dữ liệu có máy lạnh, làm mát bằng không khí. Sau đó, CyberAgent bắt đầu phát triển các mô hình ngôn ngữ quy mô lớn (LLM) vào năm 2021. Hoạt động đào tạo quy mô lớn như LLM yêu cầu tài nguyên máy tính phải chạy liên tục trong nhiều tuần, đòi hỏi môi trường học tập phân tán mạnh hơn cơ sở hạ tầng truyền thống. Chúng tôi đã quyết định giới thiệu 80 GPU NVIDIA H100 Tensor Core và NVIDIA DGX H100 đầu tiên. ở Nhật Bản. Trung tâm dữ liệu máy lạnh nơi NVIDIA DGX A100 trước đây đang hoạt động thiếu hiệu suất làm mát và khả năng cấp nguồn để vận hành ổn định 80 hệ thống được trang bị GPU. Vì lý do này, chúng tôi đã bắt đầu một nghiên cứu mới về các trung tâm dữ liệu nơi hệ thống có thể được lắp đặt và vận hành, đồng thời chúng tôi đang tìm cách cung cấp nguồn điện ổn định và sinh nhiệt cao theo yêu cầu của các máy chủ được trang bị GPU NVIDIA H100 Tensor Core. đã quyết định sử dụng ``Dịch vụ nhà ở chịu tải cao'' của IDC Frontier, cho phép làm mát.