4月18日消息，隨著以ChatGPT為代表的生成式AI的持續(xù)火爆，帶動(dòng)了AI服務(wù)器出貨量的持續(xù)增長(zhǎng)，這也使得的HBM（High Bandwidth Memory，高帶寬存儲(chǔ)器）的需求大漲。

NVIDIA定義的DL / ML型AI服務(wù)器平均每臺(tái)均需搭載4張或8張高階顯卡，搭配兩顆主流型號(hào)x86服務(wù)器CPU，主要采購(gòu)商來(lái)自美系云服務(wù)廠商，包括Google、AWS、Meta與微軟等。據(jù)TrendForce統(tǒng)計(jì)，2022年高階搭載GPGPU的服務(wù)器出貨量年增約9%，近80%出貨量集中在全球頭部的八大云服務(wù)業(yè)者。展望2023年，微軟、Meta、百度與字節(jié)跳動(dòng)相繼推出基于生成式AI衍生產(chǎn)品服務(wù)而積極加單，今年AI服務(wù)器出貨量年增長(zhǎng)率有望達(dá)到15.4%，2023~2027年AI服務(wù)器出貨量年復(fù)合增長(zhǎng)率約12.2%。

隨著AI服務(wù)器需求的增長(zhǎng)，也帶動(dòng)了相關(guān)存儲(chǔ)芯片需求的增長(zhǎng)。目前，服務(wù)器DRAM普遍規(guī)格約500~600GB，AI服務(wù)器的單條模組多采用64~128GB容量，單個(gè)AI服務(wù)器的平均容量可達(dá)1.2~1.7TB。以企業(yè)級(jí)SSD來(lái)說(shuō)，AI伺服器追求速度更高，要求優(yōu)先提升DRAM或HBM容量來(lái)滿足，SSD容量的提升呈非必要擴(kuò)大容量態(tài)勢(shì)，但傳輸接口會(huì)為了高速運(yùn)算需求，優(yōu)先采用PCIe 5.0接口。相較一般的服務(wù)器，AI服務(wù)器多采用GPGPU來(lái)進(jìn)行運(yùn)算，因此以NVIDIA A100 80GB配備4或8張加速卡來(lái)計(jì)算，HBM用量約320~640GB。未來(lái)AI模型逐漸復(fù)雜化趨勢(shì)下，將刺激更多HBM需求成長(zhǎng)。

據(jù)此前《韓國(guó)經(jīng)濟(jì)日?qǐng)?bào)》報(bào)道，受益于ChatGPT的火爆，隨著市場(chǎng)對(duì)AI GPU需求劇增，三星、SK海力士的HBM芯片（High Bandwidth Memory，高帶寬存儲(chǔ)器）贏得了額外的訂單，成為目前持續(xù)下滑的存儲(chǔ)芯片市場(chǎng)當(dāng)中意外增長(zhǎng)的品類(lèi)。

下半年隨著更為高端的NVIDIA H100與AMD MI300的推出，也刺激了HBM產(chǎn)品規(guī)格的更新。據(jù)了解，SK海力士作為目前唯一量產(chǎn)新一代HBM3產(chǎn)品的供應(yīng)商，今年其在整體HBM市場(chǎng)的市占率有望提升至53%。三星、美光也規(guī)劃對(duì)應(yīng)規(guī)格的HBM3，將會(huì)陸續(xù)在年底至明年初量產(chǎn)，它們?cè)贖BM市場(chǎng)的市占率分別為38%及9%。

TrendForce的數(shù)據(jù)也顯示，2022 年三大HBM原廠SK海力士、三星、美光的市占率分別為 50%、 40%和近10%。

資料顯示，2021年10月，SK 海力士就宣布成功開(kāi)發(fā)出HBM3 DRAM 內(nèi)存，是全球首家開(kāi)發(fā)出新一代高帶寬內(nèi)存(HBM)，也是HBM 系列內(nèi)存第四代產(chǎn)品。新一代HBM3 DRAM不僅提供高達(dá)819GB/s 的帶寬，還堆疊更多層數(shù)DRAM 以增加容量，提供更廣泛應(yīng)用解決方案。相比上一代的HBM2E（460GB/s），整體帶寬提高了78%。目前，NVIDIA A100加速卡目前使用的是6 顆HBM2E內(nèi)存，提供2TB/s 帶寬。一旦換成HBM3 規(guī)格，帶寬最高可提高到4.9TB/s，顯存容量也提升至最高144GB。