作者：中國信息通信研究院數(shù)據研究中心 張彥坤 中國信息通信研究院技術與標準研究所 陳敏
生成式人工智能和大模型技術的快速發(fā)展，拉開了全球大算力時代的序幕，科技巨頭紛紛重金布局AI算力基建，促使AI處理器需求呈“井噴”態(tài)勢。其中，HBM（高帶寬存儲器）作為核心器件，需求熱度持續(xù)上升。全球HBM市場目前已形成SK海力士、三星電子和美光三足鼎立的態(tài)勢。三大存儲原廠積極布局HBM技術研發(fā)，推動產能擴張計劃，在2024年陸續(xù)推出第五代HBM3E產品�？v觀HBM全產業(yè)鏈，我國本土企業(yè)參與者寥寥無幾。因此，我國HBM技術面臨自主可控與市場競爭雙重壓力，亟待加快步伐，奮起直追。
HBM市場概況
隨著人工智能尤其是生成式人工智能和大模型技術的快速發(fā)展，全球算力需求迎來爆發(fā)式增長。眾多云計算廠商、大模型廠商紛紛加大AI算力基礎設施建設的投資，因此AI處理器需求急速攀升，而作為其中關鍵器件之一的HBM需求也不斷增長。
HBM屬于圖形DDR（雙倍速率同步動態(tài)隨機存儲器）內存的一種，具有高帶寬、高容量、低延時與低功耗等優(yōu)勢。它將多個DDR芯片堆疊在一起，再與GPU封裝合成，通過增加帶寬、擴展內存容量組成DDR組合陣列，以實現(xiàn)“讓更大的模型、更多的參數(shù)留在離核心計算更近的地方”，從而減少內存和存儲解決方案所帶來的延遲。在AI大模型訓練推理過程中，HBM可加快數(shù)據處理速度，因此更適用于ChatGPT等高性能計算場景。
從技術迭代上看，自2014年全球首款硅通孔HBM產品問世以來，已經從HBM、HBM2、HBM2E，發(fā)展至第四代HBM3和第五代HBM3E。數(shù)據顯示，2023年HBM市場主流產品為HBM2E，NVIDIA A100/A800、AMD MI200以及多數(shù)CSPs自研加速芯片皆以此規(guī)格設計。為順應AI加速器芯片需求演進，存儲器廠商陸續(xù)在2024年推出新產品HBM3E，預計HBM3與HBM3E將成為今年市場主流產品。至于更高規(guī)格的HBM4，集邦咨詢預計其有望于2026年推出。
隨著AI等相關應用需求的激增，HBM市場規(guī)模也在大幅增長。據多家咨詢機構預測，全球HBM市場將迎來快速發(fā)展期。數(shù)據顯示，全球HBM營收規(guī)模到2025年將達到49.76億美元，較2023年增長148.2%。預計從2024年到2029年，全球HBM市場規(guī)模將從25.2億美元左右激增至79.5億美元，預測期內復合年增長率高達25.86%。未來，全球HBM內存市場將繼續(xù)擴大，產能及市場份額也將持續(xù)提升。
三大存儲巨頭的競爭格局和技術路線
目前全球HBM市場高度集中，主要由SK海力士、三星電子和美光三家存儲大廠主導，2022年其在HBM市場的占有率分別為50%、約40%和約10%。數(shù)據顯示，2023年SK 海力士市場占有率達53%，而三星電子、美光市場占有率分別為38%及9%。
技術路線及業(yè)績表現(xiàn)
從存儲大廠HBM布局路線來看，SK海力士作為HBM技術的先行者，早在2014年就與AMD合作開發(fā)了全球首款HBM。隨后SK海力士又陸續(xù)成功研發(fā)出HBM迭代產品，分別在2016年、2019年、2021年以及2023年發(fā)布HBM2、HBM2E、HBM3和HBM3E產品。隨著以ChatGPT為代表的生成式AI的持續(xù)火爆，AI服務器出貨量的增長帶動HBM需求大漲。在HBM和DDR5的支撐下，SK海力士在2023年第四季度率先迎來盈利。SK海力士2024年第一季度財報顯示，DRAM業(yè)務收入占比61%，公司憑借HBM等面向AI的存儲器，營業(yè)利潤環(huán)比實現(xiàn)734%增長。SK海力士表示將繼續(xù)順應AI存儲器需求增長的趨勢，加大于HBM3E產品供應。
三星電子針對HBM技術的研發(fā)雖晚于SK海力士，但直接從HBM2起步，于2016年推出HBM2產品，2020年2月推出HBM2E產品，2021年2月推出了HBM-PIM（存算一體），實現(xiàn)了內存半導體和AI處理器合二為一，其HBM3也于2023年量產。2024年2月底三星電子發(fā)布首款36GB HBM3E 12H DRAM，這是三星電子迄今為止容量最大的HBM產品。目前，三星電子已開始向用戶提供HBM3E 12H樣品，預計于今年下半年大規(guī)模量產。三星電子在今年一季報發(fā)布后還設定新目標，計劃年底實現(xiàn)HBM芯片產量3倍以上增長。
美光科技于2016年推出首款HBM2方案，隨后選擇跳過第四代HBM3，直接布局第五代HBM3E。2023年9月美光推出HBM3E，并于2024年2月26日宣布批量生產。隨著HBM3E產品開始量產并供貨于NVIDIA H200，美光有望在未來的GPU市場上取得更高占有率。財報顯示，美光2024財年第二財季（截至2月底）已實現(xiàn)DRAM營收42億美元，占總營收的71%。此外，美光2024財年資本支出預計在75億美元至80億美元間，高于去年資本支出和此前規(guī)劃，主要是為了支持HBM3E的產量增長。
產能擴張計劃
隨著NVIDIA、AMD等廠商不斷推出高性能GPU產品，三大存儲原廠也在積極規(guī)劃相對應規(guī)格的HBM量產。SK海力士公司今年4月正式宣布，為應對全球范圍內快速增長的AI需求，公司計劃投資19萬億韓元（約1000億元人民幣），擴大包括HBM在內的下一代DRAM的產能。SK海力士已通過董事會決議，將位于韓國忠清北道清州市的M15X晶圓廠定為新的DRAM生產基地。SK海力士將投資約5.3萬億韓元用于廠房建設，并于4月底啟動建設工程。
為擴大HBM產能，三星電子已于2023年底收購Samsung Display(三星顯示）韓國天安廠區(qū)內部分建筑及設備，用于HBM生產。三星電子計劃在天安廠建立一條新封裝線，用于大規(guī)模生產HBM，該公司已花費105億韓元購買以上建筑和設備等，預計還將追加投資7000億～1萬億韓元。
美光科技已于2023年11月初正式啟用位于中國臺灣的臺中四廠。臺中四廠將整合先進探測與封裝測試功能，量產HBM3E及其他產品，從而滿足人工智能、數(shù)據中心、邊緣計算及云端各類應用日益增長的需求。該工廠已于2024年初開始大規(guī)模量產HBM3E。
下一步技術布局
圍繞搭載于NVIDIA下一代AI芯片中的HBM3E，三大存儲廠商展開了激烈競爭。美光、SK海力士和三星電子先后在2023年7月底、8月中旬以及10月初，向NVIDIA提供了8層垂直堆疊的HBM3E（24GB）樣品。其中美光和SK海力士的HBM3E在今年初已通過NVIDIA的驗證，并獲得了訂單；NVIDIA在3月中旬GTC大會上確認三星電子HBM 產品正處于驗證階段。
在角逐HBM3E的同時，三大存儲原廠已開始布局下一代存儲產品HBM4。SK海力士已宣布研發(fā)HBM4，并與臺積電就HBM4研發(fā)和下一代封裝技術合作簽署諒解備忘錄，計劃從2026年開始批量生產HBM第六代產HBM4。據悉，SK海力士將采用臺積電的先進邏輯工藝來提高HBM4的性能，針對搭載于HBM封裝內最底層的基礎裸片進行優(yōu)化。三星電子自2024年以來已成立兩個全新HBM團隊，并將HBM工作小組轉為芯片部門下常設辦公單位。三星電子HBM團隊計劃于2025年推出HBM4，2026年實現(xiàn)量產。美光作為HBM市場后起之秀也在積極布局HBM4，計劃在2026年至2027年間，推出容量在36GB到48GB、12/16層垂直堆疊的HBM4產品，并于2028年推出帶寬增加至2TB/s以上的HBM4E。
我國廠商參與HBM產業(yè)鏈情況
在“算力”需求催生“存力”的機遇下，我國廠商國產AI處理器水平穩(wěn)步提升，對配套自主HBM供應鏈的需求也越發(fā)迫切�？v觀整個HBM產業(yè)鏈，研發(fā)、制造涉及復雜的工藝和技術難題，包括晶圓級封裝、測試技術、設計兼容性等，能入局的國內企業(yè)屈指可數(shù)。
目前，我國長電科技、通富微電和盛合晶微等一線封裝廠商擁有支持HBM生產的技術（如TSV硅通孔）和設備。在其余供應鏈上，芯片設計企業(yè)國芯科技已與合作伙伴基于先進工藝開展流片，并與上下游合作廠家積極開展包括HBM技術在內的高端芯片封裝合作。紫光國微的HBM作為特種集成電路產品，目前還處于研發(fā)階段。香農芯創(chuàng)作為SK海力士分銷商之一具有HBM代理資質，未來將根據下游用戶需求，在原廠供應有保障的前提下提供相應產品銷售服務。上游材料企業(yè)飛凱材料生產的MUF（環(huán)氧塑封料）是HBM存儲芯片制造技術所需材料之一，其中液體封裝材料LMC已經量產并形成少量銷售，顆粒填充封裝料GMC尚處于研發(fā)送樣階段。興森科技的FC-BGA封裝基板可用于HBM存儲的封裝，但目前尚未進入海外HBM龍頭產業(yè)鏈。
由此可見，我國僅有為數(shù)不多的廠商打入全球HBM供應鏈體系，且主要集中在上游材料環(huán)節(jié)，HBM產業(yè)鏈仍被海外廠商主導。
我國HBM發(fā)展建議
AI大模型的興起催生了海量算力需求，未來在AI模型逐漸復雜化的趨勢下，服務器的數(shù)據計算和存儲需求將持續(xù)增長，算力的多寡也將成為制約一個國家AI發(fā)展的重要因素。國產AI算力當前面臨先進制程產能、CoWoS封裝與HBM三大瓶頸，HBM更是國產AI算力的重中之重。
當前HBM技術主要被美韓廠商把持，國產HBM正處于“0到1”的突破期。在我國高端GPU受限的情況下，無論從自主可控還是市場競爭角度，國產AI處理器的突破迫在眉睫，HBM的同步突圍更需加快布局。建議從國家層面加強頂層設計，加大關鍵技術研發(fā)力度，協(xié)同產業(yè)鏈上下游共同實現(xiàn)HBM等核心技術突破，以早日實現(xiàn)高性能AI處理器的國產化。
