美光科技今日宣布，其12层堆叠36GB HBM4记忆体已送样给多家主要客户。其 1β（1-beta）DRAM 制程、经验证的12层的记忆体内建自我测试（MBIST）功能，是专为开发下一代AI平台所设计。

美光 HBM4 记忆体具有 2048 位元介面，每个记忆体堆叠的传输速率超过 2.0 TB/s，效能较前一代产品提升逾 60%1。这种扩展的介面有助於实现高速通讯和高吞吐量设计，进而提高大型语言模型和思路链推理系统的推论效能。简而言之，HBM4 将使 AI 加速器具备更快的反应速度与更高效的推理能力。

此外，延续美光前一代 HBM3E 记忆体2在业界树立的 HBM 能源效率新标竿，HBM4 的能源效率再提升逾两成，展现了更进一步的技术突破。这项进展能以最低功耗提供最大吞吐量，进而最大限度地提高资料中心的效率2。