聊聊GPU背后的大赢家-HBM

聊聊GPU背后的大赢家-HBM

随着人工智能、机器学习、高性能计算等应用的快速发展，对高带宽内存的需求日益增长。HBM（High Bandwidth Memory）作为新一代内存技术，以其卓越的性能和能效，正在成为GPU和其他处理器的关键组件。本文将为您详细介绍HBM的技术原理、发展历程、市场竞争格局以及未来应用前景。

HBM是什么？

HBM全称为High Bandwidth Memory，即高带宽内存，是一款新型的CPU/GPU内存芯片。其核心技术是将多个DDR芯片堆叠在一起并与GPU封装在一起，形成大容量、高位宽的DDR组合阵列。

与传统的DDR内存相比，HBM采用了"楼房设计"方式，即将传输信号、指令、电流等进行了重新设计，并对封装工艺提出了更高的要求。具体来说，HBM的构建包括以下几个关键步骤：

1. DRAM通过堆叠的方式叠在一起，Die之间用TVS方式连接
2. DRAM下面是DRAM逻辑控制单元，负责对DRAM进行控制
3. GPU和DRAM通过uBump和Interposer（起互联功能的硅片）连通
4. Interposer再通过Bump和Substrate(封装基板）连通到BALL
5. 最后BGA BALL 连接到PCB上

这种设计使得HBM具备了以下优势：

• 接口变得更宽，下方互联的触点数量远超DDR内存连接到CPU的线路数量
• 相比传统内存技术，HBM具有更高带宽、更多I/O数量、更低功耗、更小尺寸
• HBM3E的速率可达8Gbps，每秒可处理1.225TB的数据
• 三星正在利用其第四代基于EUV光刻机的10nm制程（14nm）节点制造24GB容量的HBM3芯片，8层、12层堆叠可在HBM3E上实现36GB（业界最大）的容量，比HBM3高出50%

为什么需要HBM？

随着GPU功能的不断增强，对内存访问速度的要求也越来越高。特别是在AI和视觉处理等应用领域，巨大的内存和计算需求对传统内存技术提出了严峻挑战。HBM的出现，正是为了解决这些问题：

1. 克服"内存墙"问题：通过提升内存带宽，减少数据访问延迟
2. 先进封装技术的应用：在封装级别解决内存延迟和密度问题
3. 异构集成路线：在更靠近处理器的位置集成更多内存
4. 性能优势：提供更快的内存访问时间和速率，同时减少组件占用空间和外部存储器要求

HBM的发展历程

HBM技术的发展历程可以追溯到2013年，当时AMD和SK海力士联合推出了第一代HBM，并将其定为JESD235行业标准。此后，HBM经历了多次迭代升级：

• 2013年：AMD和SK海力士推出HBM1，工作频率为1600 Mbps，带宽达4096bit
• 2016年：三星开始量产4GB HBM2 DRAM，随后SK海力士也开始量产HBM2
• 2018年：JEDEC推出HBM2E规范，支持12个DRAM堆栈，最大容量达24GB
• 2022年：JEDEC发布HBM3标准规范，进一步提升存储密度、带宽等性能指标
• 2023年：SK海力士开发出HBM3e，NVIDIA发布采用HBM3e的H200芯片
• 2023年12月：AMD发布最新MI300X GPU芯片，集成192GB HBM3内存

HBM的市场竞争格局

目前，HBM市场主要由三家存储巨头主导：

• SK海力士：市场份额约50%，技术领先
• 三星：市场份额约40%
• 美光：市场份额约10%

根据TrendForce集邦咨询预测，2023年全球HBM需求量将年增近六成，达到2.9亿GB，2024年将再增长三成。虽然HBM在整体存储市场占比较低，但其在AI服务器、智能驾驶、AR/VR等领域展现出巨大潜力。

在国内，虽然起步较晚，但已有雅克科技、中微公司、拓荆科技等企业布局HBM产业链。其中，雅克科技子公司UP Chemical是SK海力士的核心供应商，拓荆科技是国内主要的ALD供应商，中微公司则是TSV设备的主要供应商。

HBM的未来应用前景

随着AI大模型、智能驾驶等新技术的崛起，HBM的需求将持续增长：

1. AI服务器：已成为标配，需求快速爆发
2. 汽车领域：摄像头数据处理需要高带宽支持
3. AR/VR：高分辨率显示和实时数据处理需求
4. 智能手机、平板电脑、游戏机和可穿戴设备：计算需求增长推动HBM应用
5. 5G和物联网：新技术推动HBM需求增长

据semiconductor-digest预测，全球高带宽存储器市场将从2022年的2.93亿美元增长到2031年的34.34亿美元，年复合增长率达31.3%。

HBM需要克服的问题

尽管HBM展现出巨大潜力，但仍面临一些挑战：

1. 成本问题：高工艺要求导致成本大幅增加
2. 散热问题：更多存储单元带来更高功耗，散热成为重要挑战

总结

随着人工智能、机器学习、高性能计算等应用市场的兴起，内存产品设计的复杂性正在快速上升，并对带宽提出了更高的要求，不断上升的宽带需求持续驱动HBM发展。相信未来，存储巨头们将会持续发力、上下游厂商相继入局，让HBM得到更快的发展和更多的关注。