近日，由于AI需求強(qiáng)勁，三星電子和SK海力士正在考慮增加工廠的半導(dǎo)體晶圓投入量，以加快向10納米第四代（1a）和第五代（1b）版本的過渡，生產(chǎn)HBM、DDR5和LP-DDR5等高價值產(chǎn)品。

HBM，全稱是High Bandwidth Memory，意思是高帶寬存儲器，被《科創(chuàng)板日報(bào)》評選為2023年十大科技熱詞。

HBM是一款新型的CPU/GPU 內(nèi)存芯片（即 “RAM”），其實(shí)就是將很多個DDR芯片堆疊在一起后和GPU封裝在一起，實(shí)現(xiàn)大容量，高位寬的DDR組合陣列。打個比方，如果說傳統(tǒng)的DDR是"平房設(shè)計(jì)"，那么HBM則是"樓房設(shè)計(jì)"。堆疊起來之后，直接的結(jié)果就是接口變得更寬，其下方互聯(lián)的觸點(diǎn)數(shù)量遠(yuǎn)遠(yuǎn)多于DDR內(nèi)存連接到CPU的線路數(shù)量。因此，與傳統(tǒng)內(nèi)存技術(shù)相比，HBM具有更高帶寬、更多I/O數(shù)量、更低功耗、更小尺寸。

建一個樓房可要比建一個平房要困難得多，從底層地基、布線、傳輸信號、指令、電流等都需要重新設(shè)計(jì)，而且對封裝工藝的要求也很高。

如上圖右側(cè)，DRAM通過堆疊的方式，疊在一起，Die之間用TVS方式連接；DRAM下面是DRAM邏輯控制單元，對DRAM進(jìn)行控制；GPU和DRAM通過uBump和Interposer（起互聯(lián)功能的硅片）連通；Interposer再通過Bump和 Substrate(封裝基板）連通到BALL；最后BGA BALL 連接到PCB上。

HBM堆棧通過中介層緊湊而快速地連接，HBM具備的特性幾乎和芯片集成的RAM一樣，可實(shí)現(xiàn)更多的IO數(shù)量。同時HBM重新調(diào)整了內(nèi)存的功耗效率，使每瓦帶寬比GDDR5高出3倍還多，功耗降低3倍多！另外，HBM相比GDDR5節(jié)省94%的表面積！

HBM的初衷，就是為了向GPU和其他處理器提供更多的內(nèi)存。這主要是因?yàn)殡S著GPU 的功能越來越強(qiáng)大，需要更快地從內(nèi)存中訪問數(shù)據(jù)，以縮短應(yīng)用處理時間。例如，AI和視覺，具有巨大內(nèi)存和計(jì)算和帶寬要求。所以提升內(nèi)存帶寬一直是存儲芯片聚焦的關(guān)鍵問題。

目前，HBM產(chǎn)品以HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代）的順序開發(fā)，最新的HBM3E是HBM3的擴(kuò)展版本。2023年，NVIDIA 發(fā)布H200芯片，是首款提供HBM3e內(nèi)存的GPU，HBM3e是目前全球最高規(guī)格的HBM內(nèi)存，由SK海力士開發(fā)，將于明年上半年開始量產(chǎn)。

HBM每一次更新迭代都會伴隨著處理速度的提高。引腳（Pin）數(shù)據(jù)傳輸速率為1Gbps的第一代HBM，發(fā)展到其第五產(chǎn)品HBM3E，速率則提高到了8Gbps，即每秒可以處理1.225TB的數(shù)據(jù)。也就是說，下載一部長達(dá)163分鐘的全高清（Full-HD）電影（1TB）只需不到1秒鐘的時間。

當(dāng)然，存儲器的容量也在不斷加大：HBM2E的最大容量為16GB，目前，三星正在利用其第四代基于EUV光刻機(jī)的10nm制程（14nm）節(jié)點(diǎn)來制造24GB容量的HBM3芯片，此外8層、12層堆疊可在HBM3E上實(shí)現(xiàn)36GB（業(yè)界最大）的容量，比HBM3高出50%。

此前SK海力士、美光均已宣布推出HBM3E芯片，皆可實(shí)現(xiàn)超過1TB/s的帶寬。同時，三星也宣布HBM4內(nèi)存將采用更先進(jìn)的芯片制造和封裝技術(shù)，雖然HBM4的規(guī)格尚未確定，但有消息稱業(yè)界正尋求使用2048位內(nèi)存接口，并使用FinFET晶體管架構(gòu)來降低功耗。三星希望升級晶圓級鍵合技術(shù)，從有凸塊的方式轉(zhuǎn)為無凸塊直接鍵合。因此，HBM4的成本可能會更高。

HBM今后的存在感或許會越來越強(qiáng)。據(jù)semiconductor-digest預(yù)測，到2031年，全球高帶寬存儲器市場預(yù)計(jì)將從2022年的2.93億美元增長到34.34億美元，在2023-2031年的預(yù)測期內(nèi)復(fù)合年增長率為31.3%。

2月23日，SK海力士副總裁KimKi-tae表示，2024年海力士旗下HBM產(chǎn)能已售罄。此前美光在業(yè)績會中也表示得益于生成式AI需求增長，美光2024年的HBM產(chǎn)能預(yù)計(jì)已全部售罄。