人工智能浪潮持续席卷全球，AI服务器需要在短时间内处理大量数据，包括模型训练数据、模型参数、模型输出等。全球数据生成、储存、处理量呈等比级数增长，对高带宽需求大幅提升，由此拉动HBM需求爆增。#人工智能#
HBM融合了3D堆叠以及近存储运算技术，可消除内存受限、计算密集型工作负载的处理与内存瓶颈，因此十分适合用于对性能要求高的计算系统领域，如：AI服务器、超级计算机、机器学习、数据库加速、新一代防火墙和高级网络测试器等应用领域。
据台湾电子时报报道，SK海力士为应对人工智能和半导体需求增加，将追加投资高带宽存储器（HBM）产线，目标将HBM产能扩大2倍。
当前英伟达计算卡供不应求，使得HBM3显存出现了严重短缺的情况，由此导致作为HBM3显存供应商的三星及海力士产品报价不断提升，远超平均报价水准。#英伟达#
2023年开年后三星、SK海力士的HBM订单快速增加，近期HBM3规格DRAM价格上涨约5倍。
据Omdia在2021年的数据，预计到2025年HBM市场规模将达到约25亿美元。
随着AIGC产业链在2023年发展持续超预期，拉动对AI服务器需求增加，HBM的市场规模增长或超该预测。#存储#
关注乐晴，洞悉产业格局！
HBM行业概览
高带宽存储器（HBM, High Bandwidth Memory）是目前高端GPU解决高带宽主流方案，也是当下速度最快的DRAM产品。
从技术角度看，HBM促使DRAM从传统2D加速走向立体3D，充分利用空间、缩小面积，契合半导体行业小型化、集成化的发展趋势。
HBM突破了内存容量与带宽瓶颈，被视为新一代DRAM解决方案，业界认为这是DRAM通过存储器层次结构的多样化开辟一条新的道路，革命性提升DRAM的性能。
资料来源：Yole
凭借独特的TSV信号纵向连接技术，HBM内部将数个DRAM芯片在缓冲芯片上进行立体堆叠，其内部堆叠的DDR层数可达4层、8层以至12层，从而形成大容量、高位宽的DDR组合阵列。
2017年AMD发布的论文中讨论了包含CPU、GPU和HBM内存堆栈的APU芯片设计：
资料来源：T. Vijayaraghavan et al., "Design and Analysis of an APU for Exascale Computing" 2017 IEEE
GPU主流存储方案目前主要分GDDR和HBM两种方案。
与GDDR方案相比，HBM方案由多个芯片垂直堆叠而成，每个芯片上都有多个内存通道，可以在很小的物理空间内实现高容量和高带宽的内存，有更多的带宽和更少的物理接口，而物理接口越少，功耗越低。同时还具有低延迟的特点，但相对而言，成本更高。
HBM大幅提高了容量和数据传输速率，每瓦带宽比GDDR5高出3倍还多，且HBM比GDDR5节省了94%的表面积。
相比DDR更适合用于AI领域，HBM能够很好满足针对AI领域内存高带宽、大容量、低功耗的需求。
除此之外，HBM堆栈不通过外部互连线的方式与GPU/CPU/Soc连接，而是通过中间介质层紧凑快速地连接信号处理器芯片。
在服务器上，有HBM+DDR搭配使用的方案，HBM负责高带宽小容量，DDR负责稍低带宽大容量。
HBM与GDDR5方案对比：
数据来源：ARM Community
HBM方案最初由英伟达和AMD等半导体公司定义和推动。
其升级朝着不断提高存储容量、带宽，减小功耗和封装尺寸方向升级，从最初的1GB存储容量和128GB/s带宽的HBM1发展到目前的24GB存储容量和819GB/s带宽，目前已升级到HBM3。
英伟达历代主流训练芯片基本都配置HBM。
2017年初，英伟达发布的Quadro系列专业卡中的旗舰GP100也采用了HBM2；2021年推出的Tesla A100计算卡也搭载了HBM2E，2022年推出了面向大陆地区的A800，同样也配置HBM2E。
2022年推出了市面上最强的面向AI服务器的GPU卡H100，采用的HBM3。
A100与6颗HBM2E通过2.5D封装合封：
高速、高带宽的HBM堆栈没有以外部互连线的方式与计算芯片连接，而是通过中间介质层紧凑连接。以HBM2方案为例，相对于GDDR5，HBM2节省了94%的芯片面积。从带宽角度看，一个HBM2堆栈封装的带宽为307Gbyte/s，远高于GDDR5的带宽。
HBM发展及技术水平演进：
资料来源：SK海力士官网
HBM市场格局
目前全球HBM市场由SK海力士与三星垄断。
根据TrendForce的数据，2022年三大原厂HBM市占率分别为SK海力士（SK hynix）50%、三星（Samsung）约40%、美光（Micron）约10%。
HBM竞争格局&应用市场：
资料来源：IT之家，TrendForce，新浪财经，财联社，新思界，方正证券
SK海力士HBM技术起步早，从2014年推出首款HBM后，SK海力士一直是HBM行业领头羊，目前海力士占据全球HBM市场一半以上的市场份额。
后期在美光、Synopsys等企业加入布局HBM产品推动行业加速竞赛后，HBM内存技术已从HBM、HBM2、HBM2E升级至HBM3标准（*四代第**HBM）。
三大原厂海力士、三星、美光也已规划在2023下半年进行相对应规格HBM3的量产。
HBM路线图：
资料来源：海力士官网，半导体行业观察，集微网，天极网、国盛证券
SK海力士
SK海力士依托HBM1以来10余年的生产研发经验，成功卡位全球最大供应商。
2014年SK海力士与AMD联合开发了全球首款硅穿孔HBM产品，其带宽高于GDDR5产品。
2021年SK海力士发布的全球首款HBM3适用于AI、HPC等容量密集型应用，该产品已于2022年6月开始量产并供货英伟达，配置在英伟达高性能GPU H100之中。
英伟达对HBM DRAM的应用，标志着高性能存储在数据中心的应用迎来了一个新的时代。
2023年4月，SK海力士宣布已在全球首次实现垂直堆叠12个单品DRAM芯片，实现最高容量24GB，容量较上一代HBM3 DRAM提升50%，目前已向客户提供样品，正在接受客户公司的性能验证，将在上半年内完成量产准备。
目前SK海力士正在开发HBM4，预计新一代产品将在高性能数据中心、超级计算机和人工智能领域得到更广泛的应用。
SK海力士将向英伟达供应HBM3:
三星&美光
在HBM领域发展较为顺利,于2016年首次量产HBM2产品，同时发布了4GB和8GB的HBM2 DRAM。2024年公司预计实现接口速度高达7.2Gbps的HBM3P，预计2025年在新一代面向AI的GPU中见到HBM3P的应用。
美光科技于2020年7月宣布大规模量产HBM2E，HBM3也仍作为其产品线在持续研发之中。
三星HBM3Icebolt带宽高达819GB/s：
据TrendForce预测，2023年AI服务器出货量年增率可望达15.4%。高阶深度学习AIGPU的规格也刺激HBM产品更迭，2023H2伴随NVIDIAH100与AMDMI300的搭载，三大原厂也已规划相对应规格HBM3的量产。
因此，在2023年将有更多客户导入HBM3的预期下，SK海力士作为目前唯一量产新世代HBM3产品的供应商，其整体HBM市占率有望提升至53%，而三星、美光则预计陆续在2023年底至2024年初量产，HBM市占率分别为38%及9%。
整体来看，相较于一般服务器而言，AI服务器多增加GPGPU的使用，因此以NVIDIAA10080GB配置4或8张计算，HBM用量约为320-640GB。未来在AI模型逐渐复杂化的趋势下，将刺激更多的存储器用量，并同步带动ServerDRAM、SSD以及HBM的需求成长。
值得一提的是，2023年5月21日，国家网信办通告，美光公司在华销售的产品，未通过网络安全审查。审查发现，美光产品存在较严重网络安全问题隐患，对我国关键信息基础设施供应链造成重大安全风险，影响我国国家安全。
为此，网络安全审查办公室依法作出不予通过网络安全审查的结论。按照《网络安全法》等法律法规，我国内关键信息基础设施的运营者应停止采购美光产品。
国内存储产业链相关厂商也有望迎来国产替代高速发展机遇。
国内主要存储厂商包括兆易创新、东芯股份、深科技、北京君正、普冉股份、澜起科技等。
兆易创新在DRAM方面，产品重点布局安防、机顶盒以及工业等领域，自研占比逐步提升，17nm DDR3产品于2022年9月向市场推出，相较台厂20nm产品有较强的性价比优势。截至2023年4月，兆易创新车规级存储产品累计出货量达1亿颗。
北京君正车规SRAM和车规DRAM在全球车规细分市场均名列前茅，车规Flash芯片的市场销售较2021年相比实现了大幅增长。随着汽车智能化的不断发展，存储芯片的单车价值量预计将不断提升，有望推动存储芯片在车规市场的长期增长。
东芯股份为国内少数几家覆盖车规级SLC NAND的企业之一。目前，车规级NAND市场主要由国际巨头垄断，三星、铠侠、海力士、西部数据与美光合计占据全球90 %以上的车规级NAND市场规模。2022年已经可以为客户提供车规级的PPI NAND以及SPI NAND的样品，包括1G、2G到最大的8G车规的NAND Flash。
江波龙是国内存储模组龙头厂商，前瞻布局工规和车规级存储器深耕存储应用与数据管理，四大产品线蓬勃发展。江波龙成立于1999年，主要从事Flash及DRAM存储器的研发、设计和销售。目前，江波龙拥有嵌入式存储、固态硬盘、移动存储和内存条四大产品线。#6月财经新势力#
目前全球只有三家供应商可提供DDR5第一子代的量产产品，分别是澜起科技、瑞萨电子和Rambus，澜起科技在内存接口芯片的市场份额保持稳定。在配套芯片上，SPD和TS目前主要的两家供应商是澜起科技和瑞萨电子，澜起科技是目前全球可以提供DDR5内存接口及模组配套芯片全套解决方案的两家供应商之一。
关注乐晴，洞悉产业格局！