Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

GigaIO gần đây đã công bố các đơn đặt hàng quan trọng cho SuperNODE™. Điều này sẽ bao gồm bộ tăng tốc AMD Instinct MI300X khổng lồ mới được công bố. Cơ sở hạ tầng này sẽ là cốt lõi của đám mây AI mới được phát triển bởi TensorWave có tên là TensorNODE. Đám mây được cho là nhằm mục đích cung cấp quyền truy cập rộng rãi vào GPU trung tâm dữ liệu của AMD, đặc biệt tập trung vào các mô hình ngôn ngữ quy mô lớn (LLM).

Ra mắt với tư cách là siêu máy tính một nút GPU 32 đầu tiên, SuperNODE đã giành được hai Giải thưởng do Ban biên tập HPCwire bình chọn cho sự đổi mới của nó. TensorNODE tận dụng kết cấu bộ nhớ PCIe Gen-5 tiên tiến của GigaIO để mở rộng công nghệ này. Những cải tiến này dự kiến ​​sẽ hợp lý hóa việc quản lý khối lượng công việc, nâng cao hiệu quả triển khai và tránh các hạn chế của mạng truyền thống.

TensorWave sẽ tận dụng công nghệ FabreX™ của GigaIO để thiết lập nhóm bộ nhớ GPU quy mô petabyte tiên phong nhằm giải quyết các nhu cầu băng thông bộ nhớ và VRAM quan trọng trong thị trường GPU ngày nay. Giai đoạn đầu tiên của TensorNODE được lên kế hoạch vào đầu năm 2024 và sẽ có khả năng hỗ trợ hàng nghìn GPU. Thiết lập này cung cấp quyền truy cập vào một nhóm VRAM lớn, giúp hoàn thành các tác vụ tính toán quan trọng với tốc độ chưa từng có dễ dàng hơn.

Việc TensorWave áp dụng cơ sở hạ tầng thích ứng của GigaIO cung cấp khả năng điều chỉnh tài nguyên theo nhu cầu ngày càng tăng của các ứng dụng AI và LLM. Cách tiếp cận này không chỉ tăng hiệu quả hoạt động mà còn góp phần tạo ra môi trường đám mây bền vững hơn bằng cách giảm nhu cầu về máy chủ và phần cứng mạng dự phòng. Toàn bộ cấu hình AMD của TensorNODE tận dụng cả CPU AMD thế hệ thứ 4 và bộ tăng tốc MI300X, với dung lượng bộ nhớ dồi dào của MI300X và kết cấu bộ nhớ của GigaIO để đảm bảo sử dụng GPU Core tối ưu và mang lại hiệu suất vượt trội.