雖然2023 年記憶體市場(chǎng)低迷，不過(guò)，SK 海力士卻把握住了伺服器市場(chǎng)更換DDR5記憶體及生成式人工智能（AI）爆發(fā)的機(jī)會(huì)，憑借針對(duì)性的產(chǎn)品線和市場(chǎng)策略，拿下了不少市場(chǎng)占有率。而且，在成為英偉達(dá)高頻寬記憶體的合作伙伴之后，SK海力士延續(xù)了HBM市場(chǎng)的領(lǐng)導(dǎo)地位，甚至出現(xiàn)了「贏家通吃」的局面。

近日，SK海力士在介紹2024年儲(chǔ)存產(chǎn)品線的時(shí)候，已確認(rèn)2024年將啟動(dòng)下一代HBM4的開(kāi)發(fā)工作，為資料中心和人工智慧產(chǎn)品提供動(dòng)力。其實(shí)，在2023年在第四季，包括三星和美光就已先后確認(rèn)正在開(kāi)發(fā)HBM4，預(yù)計(jì)分別在2025年和2026年正式推出。

HBM已經(jīng)經(jīng)過(guò)5個(gè)世代的發(fā)展，其中在HBM3E是HBM3的擴(kuò)展版本，而HBM4將是第6 代產(chǎn)品。SK海力士表示，HBM3E會(huì)在2024年進(jìn)入大量生產(chǎn)，而啟動(dòng)HBM4的開(kāi)發(fā)工作代表著HBM產(chǎn)品的持續(xù)發(fā)展邁出了重要的一步。

先前有報(bào)導(dǎo)指出，下一代HBM4 設(shè)計(jì)會(huì)有重大的變化，記憶體堆疊將采用2048位元介面。事實(shí)上，自2015年以來(lái)，每個(gè)HBM堆疊都是采用1024位元介面。因此，將位元頻寬翻倍是HBM 記憶體技術(shù)推出后最大的變化。如果HBM4能保持現(xiàn)有的接腳速度，代表著頻寬將從現(xiàn)在HBM3E的1.15TB/s，提升到2.3TB/s的水準(zhǔn)，提升會(huì)相當(dāng)明顯。

另外，預(yù)計(jì)HBM4在堆疊的層數(shù)上也有所變化，除了首批的12層垂直堆疊之外，2027年還將有16層垂直堆疊的產(chǎn)品。同時(shí)HBM還會(huì)往更為客制化的方向發(fā)展，不僅將安裝在SoC主芯片旁邊，部分還會(huì)轉(zhuǎn)向堆疊在主芯片之上，為其提供帶來(lái)更大的效益。

擴(kuò)展閱讀：

SK海力士正在加速開(kāi)發(fā)新工藝“混合鍵合”，以保持其在高帶寬存儲(chǔ)器（HBM）領(lǐng)域的全球領(lǐng)先地位。業(yè)界正在密切關(guān)注SK海力士能否率先應(yīng)用這一夢(mèng)想封裝技術(shù)，從而繼續(xù)引領(lǐng)特種內(nèi)存領(lǐng)域。

據(jù)行業(yè)官員12月18日透露，SK海力士本月在美國(guó)舉行的全球半導(dǎo)體會(huì)議IEDM 2023上宣布，其已確保HBM制造中使用的混合鍵合工藝的可靠性。SK海力士報(bào)告稱，其第三代HBM（HBM2E）采用8層堆疊DRAM，在使用混合鍵合工藝制造后通過(guò)了所有可靠性測(cè)試。在此次測(cè)試中，SK海力士評(píng)估了HBM在高溫下的使用壽命，并檢查了產(chǎn)品發(fā)貨后客戶在芯片焊接過(guò)程中可能出現(xiàn)的潛在問(wèn)題等，涵蓋四個(gè)類(lèi)別。

混合鍵合被認(rèn)為是 HBM 行業(yè)的“夢(mèng)想工藝技術(shù)”。到目前為止，HBM 在 DRAM 模塊之間使用一種稱為“微凸塊”的材料進(jìn)行連接。然而，通過(guò)混合鍵合，芯片可以在沒(méi)有凸塊的情況下連接，通過(guò)消除充當(dāng)橋梁的凸塊來(lái)顯著減小芯片的厚度。

HBM 芯片的標(biāo)準(zhǔn)厚度為 720 μm。預(yù)計(jì)將于 2026 年左右量產(chǎn)的第 6 代 HBM（HBM4）需要垂直堆疊 16 個(gè) DRAM，這對(duì)當(dāng)前的封裝技術(shù)滿足客戶滿意度來(lái)說(shuō)是一個(gè)挑戰(zhàn)。因此，Hybrid Bonding工藝在下一代HBM中的應(yīng)用被業(yè)界認(rèn)為是必然的。

SK海力士今年已宣布計(jì)劃將混合鍵合應(yīng)用于其HBM4產(chǎn)品。雖然本次測(cè)試是在第三代產(chǎn)品上進(jìn)行的，其要求遠(yuǎn)低于 HBM4 規(guī)格，而且 DRAM 層數(shù)僅為一半（8 層），但對(duì)于外部展示 Hybrid Bonding 的潛力具有重要意義。

SK海力士是今年半導(dǎo)體行業(yè)HBM熱潮的關(guān)鍵參與者。該公司今年率先在第五代 HBM 的生產(chǎn)中引入了大規(guī)?；亓鞒尚偷撞刻畛?(MR-MUF) 工藝，從而保持了 HBM 行業(yè)領(lǐng)導(dǎo)者的地位。

HBM封裝，SK海力士有了新想法

SK 海力士正準(zhǔn)備推出“2.5D 扇出”封裝作為其下一代存儲(chǔ)半導(dǎo)體技術(shù)。由于今年在高帶寬內(nèi)存（HBM）領(lǐng)域的成功表現(xiàn)，SK海力士對(duì)下一代芯片技術(shù)領(lǐng)域充滿信心，似乎正在加緊努力，通過(guò)開(kāi)發(fā)“專(zhuān)業(yè)”內(nèi)存產(chǎn)品來(lái)確保技術(shù)領(lǐng)先地位。

11月26日業(yè)內(nèi)人士透露，SK海力士正準(zhǔn)備將2.5D Fan-out封裝技術(shù)集成到繼HBM之后的下一代DRAM中。

這項(xiàng)新技術(shù)將兩個(gè) DRAM 芯片水平排列，然后將它們組合起來(lái)，就像它們是一個(gè)芯片一樣。一個(gè)特征是芯片變得更薄，因?yàn)樗鼈兿旅鏇](méi)有添加基板。這使得信息技術(shù) (IT) 設(shè)備中安裝的芯片厚度顯著減小。SK海力士預(yù)計(jì)最早將于明年公開(kāi)披露使用這種封裝制造的芯片的研究結(jié)果。

SK海力士的嘗試相當(dāng)獨(dú)特，因?yàn)?.5D Fan-out封裝此前從未在內(nèi)存行業(yè)嘗試過(guò)。該技術(shù)主要應(yīng)用于先進(jìn)系統(tǒng)半導(dǎo)體制造領(lǐng)域。全球領(lǐng)先的半導(dǎo)體代工廠臺(tái)積電于2016年首次將扇出晶圓級(jí)封裝（FOWLP）商業(yè)化，用于生產(chǎn)iPhone的應(yīng)用處理器，從而獲得了蘋(píng)果的信任。三星電子從今年第四季度開(kāi)始將這項(xiàng)技術(shù)引入到 Galaxy 智能手機(jī)的先進(jìn) AP 封裝中。

SK海力士在存儲(chǔ)半導(dǎo)體領(lǐng)域應(yīng)用扇出封裝的一個(gè)主要原因被解讀為封裝成本的降低。業(yè)界將2.5D扇出封裝視為一種可以通過(guò)跳過(guò)硅通孔（TSV）工藝同時(shí)增加輸入/輸出（I/O）接口數(shù)量來(lái)降低成本的技術(shù)。業(yè)界推測(cè)這種封裝技術(shù)將應(yīng)用于圖形DRAM（GDDR）和其他需要擴(kuò)展信息I/O的產(chǎn)品。

SK海力士利用這項(xiàng)技術(shù)搶占內(nèi)存產(chǎn)品小批量多樣化的IT趨勢(shì)的戰(zhàn)略正在變得更加清晰。SK海力士正在鞏固與世界知名圖形處理單元（GPU）公司Nvidia的合作，該公司在HBM市場(chǎng)處于領(lǐng)先地位，該市場(chǎng)作為下一代DRAM而受到關(guān)注。還有一個(gè)例子是，SK海力士為蘋(píng)果新AR設(shè)備“Vision Pro”中安裝的“R1”計(jì)算單元生產(chǎn)并提供了特殊DRAM。SK海力士總裁Kwak No-jung表示：“在人工智能時(shí)代，我們將把存儲(chǔ)半導(dǎo)體創(chuàng)新為針對(duì)每個(gè)客戶的差異化專(zhuān)業(yè)產(chǎn)品。”

誰(shuí)才是新方向？

雖然目前業(yè)界都在集中研發(fā)HBM3的迭代產(chǎn)品，但是廠商們?yōu)榱藸?zhēng)奪市場(chǎng)的話語(yǔ)權(quán)，對(duì)于未來(lái)HBM技術(shù)開(kāi)發(fā)有著各自不同的見(jiàn)解與想法。

?? 三星

三星正在研究在中間件中使用光子技術(shù)，光子通過(guò)鏈路的速度比電子編碼的比特更快，而且耗電量更低。光子鏈路可以飛秒速度運(yùn)行。這意味著10-1?個(gè)時(shí)間單位，即四十億分之一（十億分之一的百萬(wàn)分之一）秒。在最近舉行的開(kāi)放計(jì)算項(xiàng)目（OCP）峰會(huì)上，以首席工程師李彥為代表的韓國(guó)巨頭先進(jìn)封裝團(tuán)隊(duì)介紹了這一主題。

除了使用光子集成電路外，另一種方法是將 HBM 堆棧更直接地連接到處理器（上圖中的三星邏輯圖）。這將涉及謹(jǐn)慎的熱管理，以防止過(guò)熱。這意味著隨著時(shí)間的推移，HBM 堆?？梢陨?jí)，以提供更大的容量，但這需要一個(gè)涵蓋該領(lǐng)域的行業(yè)標(biāo)準(zhǔn)才有可能實(shí)現(xiàn)。

?? SK海力士

據(jù)韓媒報(bào)道，SK海力士還在研究 HBM 與邏輯處理器直接連接的概念。這種概念是在混合使用的半導(dǎo)體中將 GPU 芯片與 HBM 芯片一起制造。芯片制造商將其視為 HBM4 技術(shù)，并正在與英偉達(dá)和其他邏輯半導(dǎo)體供應(yīng)商洽談。這個(gè)想法涉及內(nèi)存和邏輯制造商共同設(shè)計(jì)芯片，然后由臺(tái)積電（TSMC）等晶圓廠運(yùn)營(yíng)商制造。

這有點(diǎn)類(lèi)似于內(nèi)存處理（PIM）的想法，如果最終不能成為行業(yè)標(biāo)準(zhǔn)的話，很可能會(huì)變成事實(shí)上的廠商獨(dú)占。

?? 美光

Tom's Hardware 報(bào)道稱，美光與市場(chǎng)上的其他公司正在開(kāi)展 HBM4 和 HBM4e 活動(dòng)。美光目前正在生產(chǎn) HBM3e gen-2 內(nèi)存，采用 8層垂直堆疊的 24GB 芯片。美光的 12 層垂直堆疊 36GB 芯片將于 2024 年第一季度開(kāi)始出樣。它正與半導(dǎo)體代工運(yùn)營(yíng)商臺(tái)積電合作，將其 gen-2 HBM3e 用于人工智能和 HPC 設(shè)計(jì)應(yīng)用。

美光表示，其目前的產(chǎn)品具有高能效，對(duì)于安裝了1000萬(wàn)個(gè)GPU的設(shè)備來(lái)說(shuō)，每個(gè)HBM堆棧能節(jié)省約5瓦的功耗，預(yù)計(jì)五年內(nèi)將比其他HBM產(chǎn)品節(jié)省高達(dá)5.5億美元的運(yùn)營(yíng)開(kāi)支。

下一代HBM

2015年以來(lái)，從HBM1到HBM3e，它們都保留了相同的1024位(每個(gè)堆棧)接口，即具有以相對(duì)適中的時(shí)鐘速度運(yùn)行的超寬接口，為了提高內(nèi)存?zhèn)鬏斔俾?，下一代HBM4可能需要對(duì)高帶寬內(nèi)存技術(shù)進(jìn)行更實(shí)質(zhì)性的改變，即從更寬的2048位內(nèi)存接口開(kāi)始。

出于多種技術(shù)原因，業(yè)界打算在不增加 HBM 存儲(chǔ)器堆棧占用空間的情況下實(shí)現(xiàn)這一目標(biāo)，從而將下一代 HBM 存儲(chǔ)器的互連密度提高一倍。HBM4 會(huì)在多個(gè)層面上實(shí)現(xiàn)重大技術(shù)飛躍。在 DRAM 堆疊方面，2048 位內(nèi)存接口需要大幅增加內(nèi)存堆疊的硅通孔數(shù)量。同時(shí)，外部芯片接口需要將凸塊間距縮小到遠(yuǎn)小于 55 微米，而 HBM3 目前的凸塊總數(shù)（約）為 3982 個(gè)，因此需要大幅增加微型凸塊的總數(shù)。

內(nèi)存廠商表示，他們還將在一個(gè)模塊中堆疊多達(dá) 16 個(gè)內(nèi)存模塊，即所謂的 16-Hi 堆疊，從而增加了該技術(shù)的復(fù)雜性。(從技術(shù)上講，HBM3 也支持 16-Hi 堆疊，但到目前為止，還沒(méi)有制造商真正使用它）這將使內(nèi)存供應(yīng)商能夠顯著提高其 HBM 堆疊的容量，但也帶來(lái)了新的復(fù)雜性，即如何在不出現(xiàn)缺陷的情況下連接更多的 DRAM 凸塊，然后保持所產(chǎn)生的 HBM 堆疊適當(dāng)且一致地短。

在阿姆斯特丹舉行的臺(tái)積電 OIP 2023 會(huì)議上，臺(tái)積電設(shè)計(jì)基礎(chǔ)設(shè)施管理主管這樣說(shuō)道："因?yàn)閇HBM4]不是將速度提高了一倍，而是將[接口]引腳增加了一倍。這就是為什么我們要與所有三家合作伙伴合作，確保他們的 HBM4（采用我們的先進(jìn)封裝方法）符合標(biāo)準(zhǔn)，并確保 RDL 或 interposer 或任何介于兩者之間的產(chǎn)品都能支持（HBM4 的）布局和速度。因此，我們會(huì)繼續(xù)與三星、SK 海力士和美光合作"。

目前，臺(tái)積電的 3DFabric 存儲(chǔ)器聯(lián)盟目前正致力于確保 HBM3E/HBM3 Gen2 存儲(chǔ)器與 CoWoS 封裝、12-Hi HBM3/HBM3E 封裝與高級(jí)封裝、HBM PHY 的 UCIe 以及無(wú)緩沖區(qū) HBM（由三星率先推出的一項(xiàng)技術(shù)）兼容。

美光公司今年早些時(shí)候表示，"HBMNext "內(nèi)存將于 2026 年左右面世，每堆棧容量介于 36 GB 和 64 GB 之間，每堆棧峰值帶寬為 2 TB/s 或更高。所有這些都表明，即使采用更寬的內(nèi)存總線，內(nèi)存制造商也不會(huì)降低 HBM4 的內(nèi)存接口時(shí)鐘頻率。

總結(jié)

與三星和 SK海力士不同，美光并不打算把 HBM 和邏輯芯片整合到一個(gè)芯片中，在下一代HBM發(fā)展上，韓系和美系內(nèi)存廠商涇渭分明，美光可能會(huì)告訴AMD、英特爾和英偉達(dá)，大家可以通過(guò) HBM-GPU 這樣的組合芯片獲得更快的內(nèi)存訪問(wèn)速度，但是單獨(dú)依賴某一家的芯片就意味著更大風(fēng)險(xiǎn)。

美國(guó)的媒體表示，隨著機(jī)器學(xué)習(xí)訓(xùn)練模型的增大和訓(xùn)練時(shí)間的延長(zhǎng)，通過(guò)加快內(nèi)存訪問(wèn)速度和提高每個(gè) GPU 內(nèi)存容量來(lái)縮短運(yùn)行時(shí)間的壓力也將隨之增加，而為了獲得鎖定的 HBM-GPU 組合芯片設(shè)計(jì)（盡管具有更好的速度和容量）而放棄標(biāo)準(zhǔn)化 DRAM 的競(jìng)爭(zhēng)供應(yīng)優(yōu)勢(shì)，可能不是正確的前進(jìn)方式。

但韓媒的態(tài)度就相當(dāng)曖昧了，他們認(rèn)為HBM可能會(huì)重塑半導(dǎo)體行業(yè)秩序，認(rèn)為IP（半導(dǎo)體設(shè)計(jì)資產(chǎn)）和工藝的重大變化不可避免，還引用了業(yè)內(nèi)人士說(shuō)："除了定制的'DRAM 代工廠'之外，可能還會(huì)出現(xiàn)一個(gè)更大的世界，即使是英偉達(dá)和 AMD 這樣的巨頭也將不得不在三星和 SK 海力士制造的板材上進(jìn)行設(shè)計(jì)。"

當(dāng)然SK 海力士首席執(zhí)行官兼總裁 Kwak No-jeong的發(fā)言更值得玩味，他說(shuō)：“HBM、計(jì)算快速鏈接（CXL）和內(nèi)存處理（PIM）的出現(xiàn)將為內(nèi)存半導(dǎo)體公司帶來(lái)新的機(jī)遇，這種濱化模糊了邏輯半導(dǎo)體和存儲(chǔ)器之間的界限，內(nèi)存正在從一種通用商品轉(zhuǎn)變?yōu)橐环N特殊商品，起點(diǎn)將是 HBM4。”

由此看來(lái)，下一代HBM技術(shù)路線的選擇，可能會(huì)引發(fā)業(yè)界又一輪重大的洗牌，誰(shuí)能勝出，我們不妨拭目以待。

來(lái)源：半導(dǎo)體芯聞