Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Micron Technology vừa thông báo về việc giao hàng mẫu cho khách hàng đối với sản phẩm cải tiến mới nhất của hãng trong lĩnh vực bộ nhớ máy chủ, mô-đun SOCAMM2 256GB. Mô-đun mới này nổi bật với dung lượng cao, được tạo ra bởi chip LPDDR5X 32Gb nguyên khối đầu tiên, hứa hẹn sẽ nâng cao khả năng của trung tâm dữ liệu AI. Mô-đun SOCAMM2 được thiết kế để đáp ứng nhu cầu ngày càng tăng của các tác vụ huấn luyện, suy luận và tính toán đa năng AI, vốn đòi hỏi dung lượng và hiệu quả bộ nhớ cao hơn.

Giải pháp bộ nhớ mới của công ty tự hào có những cải tiến đáng kể về mức tiêu thụ điện năng, kích thước và hiệu năng. Nó chỉ sử dụng một phần ba điện năng và có kích thước nhỏ hơn một phần ba so với các RDIMM tiêu chuẩn, điều này có thể dẫn đến tăng mật độ lắp đặt trong tủ rack và giảm tổng chi phí sở hữu. Ngoài ra, mô-đun SOCAMM2 256GB mang lại hiệu năng được cải thiện đáng kể, với thời gian xử lý token đầu tiên nhanh hơn hơn 2,3 lần đối với suy luận LLM ngữ cảnh dài và hiệu năng trên mỗi watt cao gấp ba lần trong các ứng dụng CPU độc lập.

Sự hợp tác giữa Micron và NVIDIA tập trung vào việc cùng thiết kế các giải pháp bộ nhớ đáp ứng nhu cầu của cơ sở hạ tầng AI tiên tiến. Thiết kế dạng mô-đun của module SOCAMM2 256GB không chỉ cải thiện khả năng bảo trì mà còn hỗ trợ kiến ​​trúc máy chủ làm mát bằng chất lỏng, mở đường cho việc mở rộng dung lượng trong tương lai khi nhu cầu về bộ nhớ tiếp tục tăng cao.

Là một phần trong cam kết thúc đẩy các tiêu chuẩn ngành, Micron tích cực tham gia vào việc định hình đặc tả JEDEC SOCAMM2 và hợp tác chặt chẽ với các nhà thiết kế hệ thống để nâng cao hiệu quả năng lượng và hiệu năng cho các nền tảng trung tâm dữ liệu thế hệ tiếp theo. Với danh mục sản phẩm LPDRAM dành cho trung tâm dữ liệu rộng nhất, từ các linh kiện 8GB đến 64GB và các mô-đun 48GB đến 256GB, Micron đi đầu trong việc cung cấp các giải pháp bộ nhớ tiên tiến đáp ứng nhu cầu ngày càng phát triển của các trung tâm dữ liệu trên toàn thế giới.