Micron Technology telah mengumumkan pengiriman sampel pelanggan untuk inovasi terbarunya dalam memori server, modul SOCAMM2 256GB. Modul baru ini terkenal karena kapasitasnya yang tinggi, yang dimungkinkan oleh chip LPDDR5X 32Gb monolitik pertama yang akan meningkatkan kemampuan pusat data AI. Modul SOCAMM2 dirancang untuk memenuhi permintaan yang terus meningkat dari pelatihan AI, inferensi, dan beban kerja komputasi tujuan umum, yang membutuhkan peningkatan kapasitas dan efisiensi memori.

Solusi memori baru perusahaan ini menawarkan peningkatan signifikan dalam konsumsi daya, ukuran, dan kinerja. Solusi ini hanya menggunakan sepertiga daya dan memiliki ukuran sepertiga lebih kecil dibandingkan RDIMM standar, yang dapat meningkatkan kepadatan rak dan menurunkan total biaya kepemilikan. Selain itu, modul SOCAMM2 256GB menawarkan peningkatan kinerja yang substansial, dengan waktu pemrosesan token pertama lebih dari 2,3 kali lebih cepat untuk inferensi LLM konteks panjang dan tiga kali lipat kinerja per watt dalam aplikasi CPU mandiri.

Kolaborasi Micron dengan NVIDIA berfokus pada perancangan bersama solusi memori yang memenuhi kebutuhan infrastruktur AI canggih. Desain modular modul SOCAMM2 256GB tidak hanya meningkatkan kemudahan perawatan tetapi juga mendukung arsitektur server berpendingin cairan, membuka jalan bagi perluasan kapasitas di masa mendatang seiring dengan terus meningkatnya kebutuhan memori.

Sebagai bagian dari komitmennya untuk mendorong standar industri, Micron secara aktif terlibat dalam mendefinisikan spesifikasi JEDEC SOCAMM2 dan bekerja sama erat dengan perancang sistem untuk meningkatkan efisiensi daya dan kinerja untuk platform pusat data generasi berikutnya. Dengan portofolio LPDRAM pusat data terluas yang mencakup komponen mulai dari 8GB hingga 64GB dan modul 48GB hingga 256GB, Micron berada di garis depan dalam menyediakan solusi memori inovatif yang memenuhi kebutuhan pusat data yang terus berkembang di seluruh dunia.