HBM高带宽内存是什么?

锚思科技网 2024-06-20 14:04:57

随着人工智能的兴起,对于内存芯片的需求也逐步增加,HBM(高带宽内存)芯片成为炙手可热的产品。美光正在扩大 HBM芯片的生产,在美国建立测试生产线,扩大台湾的产能,并考虑在马来西亚生产 HBM。目标是到 2025 年将其人工智能内存芯片 HBM 的市场份额提高三倍,达到“20% 左右”。

美国正在寻求盟友的进一步帮助,以遏制中国的半导体野心,这一次也是在人工智能内存芯片 HBM 方面。一位美国高级官员将访问日本和荷兰,寻求对芯片设备制造商东京电子(日本)和 ASML(荷兰)在中国的活动进行更多限制。

三星将于 2025 年推出“SAINT”3D 封装服务,为 HBM4 做准备。

一时之间,科技巨头的关注点都聚焦在了HBM芯片上,那么它到底是什么呢?

HBM的基础知识

它的全称为High Bandwidth Memory,是一种基于3D堆栈工艺的高性能DRAM。具有高性能、高带宽、高容量、低功耗、高可靠性的图形处理器内存,是当前GPU存储单元的理想解决方案,并被广泛应用于高性能计算、人工智能和图形处理等领域。

HBM通过在垂直方向上堆叠多个DRAM芯片来实现高速、高带宽的内存访问。然后再用硅通孔(TSV)和微凸块等先进封装技术,将多个DRAM芯片紧密堆叠在一起,形成大容量、高带宽的DDR组合阵列。类似于堆积木。

相较于传统的GDDR内存,在显存位宽、时钟频率和显存带宽上,HBM均有大幅提升。例如,HBM显存的位宽为1024-bit,是GDDR5显存的32-bit的4倍。

HBM的容量也比传统GDDR内存大得多,可以达到数百GB或数千GB的级别,满足高性能计算、图形处理和数据中心等领域对内存带宽和容量的需求。

HBM采用了新的制造工艺和结构设计,使其能够实现更低的功耗,这不仅可以延长电池寿命,还可以提高设备的稳定性和可靠性。

HBM采用了多层堆叠技术,将多个芯片堆叠在一起,从而减少故障率和提高可靠性。此外,HBM还采用了先进的散热技术,可以有效地降低温度,保护芯片免受过热的影响。

有哪些品牌?

目前生产HBM内存的主要品牌为SK海力士、美光科技以及三星。当然还有其他品牌的产品,但以这三家占主导地位。

其中SK海力士是首家实现HBM3E量产的供应商。其HBM3E产品每秒可处理超过1TB的数据,相当于在1秒内可处理230部全高清(FHD)级电影。SK海力士的HBM3E采用了MR-MUF技术,散热性能较上一代产品提高了10%,达到了全球最高水平。

美光科技也开始批量生产HBM3E内存,其中24GB 8H HBM3E产品将供货英伟达,并应用于NVIDIA H200 TensorCore GPU。

三星也是主要生产厂商,其2023年HBM市场占有率预计为38%。不过其最新的产品似乎没有通过NVIDIA的审核,不能供货。

应用领域

HBM内存凭借其高带宽、低延迟、低功耗等特性,在人工智能、高性能计算、数据中心、图形处理、自动驾驶和网络通信等领域发挥着重要作用。

在人工智能领域,HBM提供高带宽、低延迟的内存支持,有助于提高人工智能模型的训练和推理效率。在处理大规模数据处理与神经网络训练时,HBM的高带宽和低功耗特性能够显著提升计算性能。

在自动驾驶领域,HBM内存可以提升自动驾驶系统需要处理大量的传感器数据的效率,

加速自动驾驶系统的数据处理和决策过程

在图形处理方面,HBM显存可以提供更高的带宽,提升图形处理器的性能,从而实现更流畅的图形渲染和更高的分辨率。

总结:

HBM高带宽内存以其高带宽、低延迟、低功耗等特性,在人工智能、高性能计算、数据中心、图形处理等领域获得了广泛的应用。未来随着各个行业数据量的增加,HBM内存的应用也会更广泛。

2 阅读:52