2023 年10 月，三星举办了Samsung Memory Tech Day 2023 活动，宣布推出代号为Shinebolt 的新一代HBM3E。到了2024 年2 月，三星宣布已开发出业界首款HBM3E 12H DRAM，拥有12 层堆叠，容量为36GB，是迄今为止频宽和容量最高的HBM 产品。之后，三星开始向客户提供了样品，并计划2024 年下半年开始大规模量产。
根据外媒报导，三星已经与处理器大厂AMD 签订价值30 亿美元的新协议，将供应HBM3E 12H DRAM，预计会用在Instinct MI350 系列AI 芯片上。在此协议中，三星还同意购买AMD 的GPU 以换取HBM 产品的交易，但是具体的产品和数量暂时还不清楚。
先前有市场消息指出，AMD 计划在2024 年下半年推出Instinct MI350 系列，属于Instinct MI300 系列AI 芯片的升级版本。其采用了晶圆代工龙头台积电的4 奈米制程技术生产，以提供更强大的运算效能，并降低功耗。由于将采用12 层堆叠的HBM3E，也在提高传输频宽的同时，还加大了容量。
根据官方消息，三星的HBM3E 12H DRAM 提供了高达1280GB/s 的频宽，加上36GB 容量之后，相较前一代的8 层堆叠产品提高了50%。由于采用了先进的热压非导电薄膜（TC NCF） 技术，也使得12 层堆叠产品与8 层堆叠的产品有着相同芯片高度，满足当前HBM 封装技术的要求。该技术还藉由芯片间使用不同尺寸的凸块来改善HBM 的热性能，在芯片键合过程中，较小凸块用于信号传输区域，而较大凸块则放置在需要散热的区域，将有助于提高产品的良率。
根据三星的说法，在人工智慧应用中，采用HBM3E 12H DRAM 预计比HBM3E 8H DRAM 的大模型训练，平均速度提高34%，同时推理服务用户数量也将增加超过11.5 倍。对此，市场人士表示，该笔交易与三星晶圆代工的谈判是分开的。因此，先前有消息表示，AMD 将把部分新一代CPU/GPU 交由三星晶圆代工来生产，这与该笔交易将不相关。
三星将向 AMD 提供 HBM3 封装服务
据业内消息人士在去年八月透露，全球最大的内存芯片制造商韩国三星电子公司准备向美国无晶圆厂半导体设计公司 Advanced Micro Devices Inc. (AMD) 提供高带宽内存 (HBM) 芯片和交钥匙封装服务。
三星第四代 HBM 芯片型号 HBM3 和封装服务最近通过了 AMD 的质量测试，AMD 计划将这些芯片和服务用于其 Instinct MI300X 加速器。
AMD专门开发服务器中央处理单元（CPU），正在扩展人工智能加速器业务，该加速器利用芯片封装和机器学习技术来高效处理大量数据。
这家美国公司将于今年第四季度推出Instinct MI300X，它结合了CPU、图形处理单元（GPU）和HBM3。
据业内人士透露，三星是唯一一家能够与 HBM 产品一起提供先进封装解决方案的公司。
AMD此前曾考虑使用台积电(TSMC)的封装服务，但由于台积电提供的先进封装无法满足美国公司的需求，因此改变了计划。知情人士本月早些时候表示，
三星还在致力于 HBM3 的技术验证，以便为全球芯片设计商 Nvidia 公司提供半导体和封装服务。这家韩国存储芯片制造商计划在今年下半年推出第五代 HBM 芯片 HBM3P，并在明年将目前的 HBM 产能提高一倍以上，并提供先进封装服务。
根据科技市场研究公司 Trendforce 的预测，在云服务提供商新订单的支持下，三星目前的全球 HBM 市场份额为 46-49%，明年将增长 47-49%。
【来源：半导体行业观察】
