Pada tanggal 1 Agustus 2023, TrendForce merilis prediksi bahwa perubahan besar akan terjadi di pasar memori bandwidth tinggi (HBM) dan membentuk lanskap AI dan teknologi pada tahun 2024.

HBM2e saat ini digunakan di NVIDIA A100/A800, AMD MI200, dan chip akselerator buatan penyedia layanan cloud. Namun, permintaan akselerator AI semakin meningkat dan produk HBM3e diperkirakan akan diperkenalkan pada tahun 2024. HBM3 dan HBM3e akan menjadi mainstream tahun depan. Google, AWS, dan CSP lainnya telah meningkatkan persaingan melalui akselerator AI mereka sendiri.

Meskipun generasi HBM yang berbeda memiliki kecepatan yang berbeda, TrendForce membagi HBM3 menjadi dua kategori: HBM3 5,6 hingga 6,4 Gbps dan HBM3e 8 Gbps (HBM3P, HBM3A, HBM3+, atau HBM3 Gen2).


SK Hynix, Samsung, dan Micron memiliki berbagai pengembangan HBM. SK Hynix dan Samsung telah meluncurkan HBM3 dan berencana untuk mencicipi HBM3e pada Q1 tahun 2024. Micron fokus pada HBM3e.

HBM3e memiliki cetakan monolitik 24GB, dan satu HBM3e memiliki kapasitas 24GB. Pabrikan besar tersebut bertujuan untuk memproduksi sampel HBM3e pada kuartal pertama tahun 2024 dan produksi massal pada paruh kedua tahun 2024.

CSP akan mengembangkan chip AI untuk mengurangi ketergantungan pada NVIDIA dan AMD. NVIDIA adalah pemimpin dalam chip akselerator server AI, namun CSP mencari alternatif karena biayanya yang tinggi. Google dan AWS sedang mengembangkan chip Google TPU, AWS Trainium, dan Inferentia yang dikonfigurasi untuk menggunakan teknologi HBM3 atau HBM3e. CSP lain di Amerika Utara dan Tiongkok juga memeriksa perkembangan terkait, yang menunjukkan meningkatnya persaingan di pasar chip akselerator AI.