HBM 4， 大戰(zhàn)打響！

AI的火熱，除了帶動GPU的大紅大紫以外，背后的重要存儲技術(shù)HBM也在過去幾年沖上了風(fēng)口浪尖。最近，SK hynix和三星的業(yè)績和動作標(biāo)明，HBM在未來大有可為。

據(jù)路透社報道，HBM 芯片目前占通用內(nèi)存市場的 15%，而去年這一比例為 8%。SK 海力士在 HBM 市場擁有最大的市場份額，由于生成式 AI 熱潮刺激了對 Nvidia GPU 的需求，該市場的需求猛增。它是占據(jù) AI GPU 市場 80% 份額的 Nvidia 的 HBM3 內(nèi)存唯一供應(yīng)商，并于 3 月份開始量產(chǎn)最新一代 HBM3E。美光和三星等競爭供應(yīng)商正在開發(fā)自己的 HBM 產(chǎn)品，以阻止 SK 海力士主導(dǎo)市場。

而圍繞著HBM，廠商們也都各出奇招。除了針對現(xiàn)有技術(shù)進行深耕，并圍繞未來的HBM 4，悄然吹響進攻號角（關(guān)于HBM4，可以參考文章《HBM4要來了》）。另外，說明一下，因為筆者沒找到美光關(guān)于HBM技術(shù)的更多介紹，所以本文中就沒有談到他在HBM技術(shù)的展望和分享，希望大家補充。

SK海力士堅持MR-MUF

據(jù)SK hynix所說，目前，封裝技術(shù)已經(jīng)超越了“將芯片電氣連接，并保護芯片免受外部沖擊”的傳統(tǒng)作用，而是成為實現(xiàn)差異化產(chǎn)品性能的重要技術(shù)。SK海力士HBM以硅通孔技術(shù)（TSV：Through Silicon Via）、批量回流模制底部填充（MR-MUF：Mass Reflow-Molded Underfill）先進封裝工藝作為核心技術(shù)，贏得了卓越的市場聲譽。其中，TSV技術(shù)常見，而在MR-MUF中，批量回流焊（MR）是通過融化堆疊芯片之間的凸塊，讓芯片互相連接的技術(shù)。模塑底部填充（MUF）是在堆疊的芯片之間填充保護材料從而提高耐久性和散熱效果的技術(shù)。使用MR-MUF，則可同時封裝多層 DRAM。

具體而言，從技術(shù)上流程看，在 DRAM 下方，有連接芯片的鉛基“凸塊”。MR 技術(shù)涉及加熱并同時熔化所有這些凸塊以進行焊接。連接完所有 DRAM 后，接下來會進行稱為 MUF 的過程來保護芯片。注入以優(yōu)異散熱性而聞名的環(huán)氧密封劑來填充芯片之間的間隙并將其封裝。然后通過加熱和加壓使組件硬化，從而完成 HBM。 

SK海力士將這一過程描述為“像在烤箱中烘烤一樣均勻地施加熱量，并一次粘合所有芯片，使其穩(wěn)定且高效。 

在最近的一篇博客中SK hynix高管表示，為適應(yīng)AI時代的需求，SK海力士專注于開發(fā)‘標(biāo)志性存儲產(chǎn)品’以滿足客戶對于性能、功能、尺寸、形態(tài)、功效等方面的差異化需求。為了實現(xiàn)這一目標(biāo)，公司正在推進TSV和MR-MUF的技術(shù)發(fā)展，這些技術(shù)在HBM性能中發(fā)揮著關(guān)鍵作用。 

值得一提的是，雖然MR-MUF被廣泛使用，我們不得不承認(rèn)，MR-MUF 擁有容易翹曲、導(dǎo)致晶圓末端彎曲、空洞現(xiàn)象（即保護材料在某些區(qū)域分布不均勻）也會對 MR-MUF 的可靠性產(chǎn)生負面影響等缺點。但SK hynix表示，與HBM開發(fā)初期相比，他們成功地減少了翹曲現(xiàn)象，目前我們正在開發(fā)克服這一問題的技術(shù)。下一步，抉擇會聚焦在減少空隙。 

SK hynix高管強調(diào)，公司旨在實現(xiàn)‘超越HBM的封裝技術(shù)’任務(wù)。如他所說，短期內(nèi)，我們的主要目標(biāo)是擴大在韓國國內(nèi)的產(chǎn)能，以應(yīng)對HBM市場的需求，同時我們也要充分利用全球各地的生產(chǎn)基地，實現(xiàn)收益最大化。從長遠來看，正如當(dāng)前作為HBM核心工藝的MR-MUF技術(shù)一樣，確保開發(fā)創(chuàng)新的先進封裝技術(shù)是我們的目標(biāo)。 

此外，SK hynix還致力于芯粒（Chiplet）及混合鍵合（Hybrid bonding）等下一代先進封裝技術(shù)的開發(fā)，以支持半導(dǎo)體存儲器和邏輯芯片之間的異構(gòu)集成，同時促進新型半導(dǎo)體的發(fā)展。當(dāng)中，Hybrid bonding也是被看作是HBM封裝的又一個新選擇。但根據(jù)之前的計劃不一樣，SK海力士打算在下一代的HBM 4中持續(xù)采用尖端封裝技術(shù)MR-MUF。作為替代方案而出現(xiàn)的混合鍵合技術(shù)預(yù)計由于 HBM 標(biāo)準(zhǔn)的放寬而緩慢引入。 

在日前的一場技術(shù)大會上，SK hynix分享道，下一代封裝技術(shù)正朝著存儲器、邏輯和控制器融合的方向發(fā)展，比如2.5D，SK海力士也在使用這些技術(shù)使 HBM 更加穩(wěn)健。 

在談到HBM未來的時候，SK Hynix認(rèn)為，市場將更傾向于專業(yè)化(Specialized)和定制化(Customized)產(chǎn)品，以滿足客戶需求。他強調(diào)，對于新一代HBM，卓越的性能是基本條件，同時，還須具備滿足不同客戶的特定需求、超越傳統(tǒng)存儲器性能的優(yōu)勢。 

此外，SK 海力士公司早前還與臺積電 (TSMC) 簽署諒解備忘錄 (MoU)，合作開發(fā)下一代 HBM，并通過先進封裝技術(shù)增強邏輯和 HBM 集成。 

該公司計劃通過這一舉措繼續(xù)開發(fā) HBM4，即 HBM 系列第六代產(chǎn)品，預(yù)計將于 2026 年開始量產(chǎn)。 

SK海力士表示，AI存儲領(lǐng)域的全球領(lǐng)導(dǎo)者與臺積電的合作將帶來HBM技術(shù)的更多創(chuàng)新。此次合作還有望通過產(chǎn)品設(shè)計、代工廠和內(nèi)存提供商之間的三邊合作實現(xiàn)內(nèi)存性能的突破。 

兩家公司將首先專注于提高安裝在 HBM 封裝最底部的基礎(chǔ)芯片的性能。HBM 的制作方法是將核心 DRAM 芯片堆疊在采用 TSV（硅通孔）技術(shù)的基礎(chǔ)芯片之上，并使用 TSV 將 DRAM 堆棧中的固定數(shù)量的層垂直連接到具有 TSV 的核心芯片，形成 HBM 封裝。位于底部的基礎(chǔ)芯片連接到控制 HBM 的 GPU。

SK海力士已使用專有技術(shù)制造高達HBM3E的基礎(chǔ)芯片，但計劃在HBM4基礎(chǔ)芯片上采用臺積電的先進邏輯工藝，以便可以將附加功能封裝到有限的空間中。這也有助于 SK 海力士生產(chǎn)定制 HBM，滿足客戶對性能和功效的廣泛需求。 

SK海力士和臺積電還同意合作優(yōu)化SK海力士的HBM和臺積電的CoWoS（基板上晶圓芯片）技術(shù)的集成，同時合作響應(yīng)常見客戶與HBM相關(guān)的要求。 

SK 海力士總裁兼 AI 基礎(chǔ)設(shè)施負責(zé)人Justin Kim表示：“我們希望與臺積電建立強有力的合作伙伴關(guān)系，以幫助加快我們與客戶的開放合作，并開發(fā)業(yè)界性能最佳的 HBM4?！? “通過此次合作，我們將通過增強定制內(nèi)存平臺領(lǐng)域的競爭力，進一步鞏固我們作為整體人工智能內(nèi)存提供商的市場領(lǐng)導(dǎo)地位?！?nbsp;

“多年來，臺積電和 SK 海力士已經(jīng)建立了牢固的合作伙伴關(guān)系。我們共同努力，整合最先進的邏輯和最先進的 HBM，提供世界領(lǐng)先的人工智能解決方案 ?！迸_積電的Kevin Zhang表示?！罢雇乱淮?HBM4，我們相信我們將繼續(xù)密切合作，提供最佳集成解決方案，為我們的共同客戶開啟新的人工智能創(chuàng)新?！?/p>

三星考慮混合鍵合 

和SK Hynix不一樣，在HBM封裝上，三星采用的TC-NCF（thermal compression with non-conductive film），也就是非導(dǎo)電薄膜熱壓縮。

從技術(shù)上看，這是一種與MR-MUF略有不同的技術(shù)。在每次堆疊芯片時，都會在各層之間放置一層不導(dǎo)電的粘合膜。該薄膜是一種聚合物材料，用于使芯片彼此絕緣并保護連接點免受撞擊。隨著發(fā)展，三星逐漸減少了 NCF 材料的厚度，將 12 層第五代 HBM3E 的厚度降至 7 微米 (μm)。該公司表示：“這種方法的優(yōu)點是可以最大限度地減少隨著層數(shù)增加和芯片厚度減小而可能發(fā)生的翹曲，使其更適合構(gòu)建更高的堆棧。”

據(jù)三星介紹，TC NCF方法在堆疊更高層方面的優(yōu)勢。但對于這技術(shù)而言，優(yōu)化熱量和壓力是其成功的關(guān)鍵。因此據(jù)報道，三星早前正在與設(shè)備制造商進行討論，以進一步提高其標(biāo)新。面對SK海力士的競爭，三星電子在全公司范圍內(nèi)集中力量，在2月宣布了“Advanced TC-NCF”技術(shù)。該技術(shù)可以減少 TC-NCF 工藝中必要薄膜的厚度，從而在保持 HBM 高度的同時增加半導(dǎo)體層數(shù)。 

此外，有消息表示，三星的TC NCF良率不如SK hynix，所以三星電子考慮將MUF材料引入穿硅電極（TSV）工藝中。報道指出，三星還從日本購買了硬化（成型）設(shè)備，可以使這種MUF變得堅硬。補充說明一下，SK海力士在第二代HBM之前也使用NCF ，但從第三代（HBM2E）開始改用MUF（特別是MR-MUF）。分析人士更是認(rèn)為MUF是SK海力士能夠在HBM市場脫穎而出的原因，這也是為何有消息指出三星也在尋求開發(fā)和引入這項技術(shù)。一位熟悉三星情況的半導(dǎo)體行業(yè)高管表示，“據(jù)我了解，三星正在研究的 MUF 材料與 SK 海力士的技術(shù)并不完全相同”。 

爾后，三星對此辟謠并強調(diào)公司將繼續(xù)在TC NCF上發(fā)力。在日前的一篇博客中，三星更是分享了他們對未來的看法。 

在被問到公司當(dāng)前HBM為何能如此與眾不同時，三星強調(diào)，公司在AdvancedTC NCF上的見解功不可沒。三星方面接著說，HBM 采用 DRAM 芯片的垂直堆疊（例如 8H 和 12H）來提高容量和帶寬。然而，不同代的 HBM 都遵循預(yù)定的整體厚度。在這種限制下，隨著附加層的堆疊，負責(zé)數(shù)據(jù)存儲的核心裸片不可避免地會變得更薄，這可能會給組裝帶來挑戰(zhàn)，導(dǎo)致芯片翹曲或破裂，以及熱阻增加。 

在三星看來，HBM 的熱阻主要受芯片間距的影響，而三星擁有先進的高密度堆疊芯片控制技術(shù)，減少芯片之間NCF材料的厚度，并利用熱壓縮技術(shù)使芯片更加緊密。這種創(chuàng)新方法實現(xiàn)了業(yè)界最小的 7 微米 (um) 芯片間距。此外，在芯片鍵合過程中，三星策略性地設(shè)計了需要信號傳輸?shù)男⊥箟K和散熱至關(guān)重要的大凸塊。這種優(yōu)化增強了散熱和產(chǎn)量。此外，應(yīng)用工藝技術(shù)在有限的封裝尺寸內(nèi)最小化單個 DRAM 芯片的尺寸，確保了卓越的量產(chǎn)能力和可靠性，從而提供了顯著的競爭優(yōu)勢。

三星同時談到，業(yè)界越來越認(rèn)識到，處理器和內(nèi)存公司各自優(yōu)化其產(chǎn)品的孤立努力不足以釋放 AGI 時代所需的創(chuàng)新。因此，“定制 HBM”成為潮流，這也代表了實現(xiàn)處理器和內(nèi)存之間協(xié)同優(yōu)化以加速這一趨勢的第一步。為此，三星利用其在內(nèi)存、代工、系統(tǒng)LSI和先進封裝方面的綜合能力。此外，三星還為下一代 HBM 建立了專門的團隊，利用公司無與倫比的能力，我們致力于在塑造未來方面做出重大改變。

在談到未來的規(guī)劃時，三星表示，HBM 市場仍處于早期階段，預(yù)計將迅速發(fā)生變化，公司的策略是通過預(yù)測市場發(fā)展并提前主動規(guī)劃和開發(fā)必要的產(chǎn)品來保持領(lǐng)先地位。隨著 HBM 市場的成熟，三星預(yù)計三個重大變化將重塑該行業(yè)：

首先，“細分”。在 HBM 的早期，硬件需要具有多功能性。然而，隨著服務(wù)圍繞殺手級應(yīng)用不斷發(fā)展，硬件基礎(chǔ)設(shè)施將不可避免地針對每個特定服務(wù)進行優(yōu)化。為了應(yīng)對這一趨勢，三星將提供一系列封裝選項（8H、12H 和 16H）和基礎(chǔ)芯片變體，同時標(biāo)準(zhǔn)化核心芯片。 

其次，處理器和內(nèi)存之間的協(xié)同優(yōu)化將需要更高程度的定制。為了應(yīng)對這一挑戰(zhàn)，三星將利用創(chuàng)建平臺來最大限度地利用 HBM 解決方案中的通用設(shè)計元素，并建立一個高效的系統(tǒng)，通過擴大我們的生態(tài)系統(tǒng)合作伙伴關(guān)系來滿足定制請求。 

第三，為了克服“電源墻”，處理器和內(nèi)存之間的距離將變得更近。第一個創(chuàng)新在 HBM4 中很明顯，它在其基礎(chǔ)芯片中采用了邏輯處理技術(shù)。第二項創(chuàng)新是隨著當(dāng)前 2.5D 到 3D HBM 架構(gòu)的轉(zhuǎn)變而發(fā)生的，而第三項創(chuàng)新涉及集成 DRAM 單元和邏輯，這是設(shè)計 HBM-PIM 的方法。在積極規(guī)劃和準(zhǔn)備引領(lǐng)市場的同時，三星已開始與客戶和合作伙伴進行討論，以將這些創(chuàng)新變?yōu)楝F(xiàn)實。 

三星強調(diào)，隨著 HBM 作為生成式 AI 最優(yōu)化內(nèi)存解決方案的地位變得不可否認(rèn)，許多客戶和數(shù)據(jù)中心正在迅速采用它。然而，確保人工智能服務(wù)不間斷至關(guān)重要。，即使是一個有缺陷的芯片也可能產(chǎn)生災(zāi)難性的影響。因此，確保 HBM 質(zhì)量的設(shè)計和測試技術(shù)勢在必行。此外，開發(fā)能夠進一步降低功耗并提高系統(tǒng)能效的 HBM 設(shè)計結(jié)構(gòu)也至關(guān)重要。 

為此，三星計劃通過針對高溫環(huán)境優(yōu)化的NCF組裝技術(shù)和尖端工藝技術(shù)，將16H技術(shù)融入下一代HBM4中。據(jù)三星的規(guī)劃，HBM 4將在2025年生產(chǎn)樣品。 

不過，三星副總裁 Kim Dae-woo 早前在韓國一個會議上表示，三星正在考慮在HBM 4中使用混合鍵合或NCF，，并于2026年開始量產(chǎn)?；旌湘I合更具優(yōu)勢，因為它們可以緊湊地添加更多堆疊，而無需使用填充凸塊進行連接的硅通孔 (TSV)。使用相同的技術(shù)，HBM 上的核心芯片 DRAM 也可以變得更厚。 

Kim 還表示，在最多 8 個堆疊時，MR-MUF的生產(chǎn)效率比 TC-NCF 更高，但一旦堆疊達到 12 個或以上，后者將具有更多優(yōu)勢。該副總裁還指出，當(dāng) HBM4 推出時，定制請求預(yù)計會增加。他補充說，緩沖芯片將變?yōu)檫壿嬓酒?，因此芯片可以來自三星或臺積電。 

有報道還指出，英偉達還將采用三星的技術(shù)，做HBM的封裝，這對于這家韓國巨頭來說，是另一個好消息。

臺積電的最新封裝技術(shù)助陣 

在北美技術(shù)研討會上，該公司推出了下一代晶圓系統(tǒng)平臺——CoW-SoW——該平臺將實現(xiàn)與晶圓級設(shè)計的 3D 集成。該技術(shù)建立在臺積電 2020 年推出的 InFO_SoW 晶圓級系統(tǒng)集成技術(shù)的基礎(chǔ)上，該技術(shù)使其能夠構(gòu)建晶圓級邏輯處理器。到目前為止，只有特斯拉在其 Dojo 超級計算機中采用了這項技術(shù)，臺積電表示該計算機現(xiàn)已投入生產(chǎn)。

在即將推出的 CoW-SoW 平臺中，臺積電將在其晶圓系統(tǒng)平臺中合并兩種封裝方法——InFO_SoW 和集成芯片系統(tǒng) (SoIC)。通過使用晶圓上芯片 (CoW) 技術(shù)，該方法將能夠?qū)⒋鎯ζ骰蜻壿嬛苯佣询B在晶圓上系統(tǒng)之上。新的CoW_SoW技術(shù)預(yù)計將在2027年實現(xiàn)大規(guī)模生產(chǎn)，但實際產(chǎn)品何時上市還有待觀察。 

據(jù)了解，臺積電的CoW-SoW專注于將晶圓級處理器與HBM4內(nèi)存集成。這些下一代內(nèi)存堆棧將采用 2048 位接口，這使得將 HBM4 直接集成在邏輯芯片頂部成為可能。同時，在晶圓級處理器上堆疊額外的邏輯以優(yōu)化成本也可能是有意義的。 

“因此，在未來，使用晶圓級集成[將允許]我們的客戶將更多的邏輯和存儲器集成在一起，”臺積電業(yè)務(wù)開發(fā)副總裁Kevin Zhang說。“SoW 不再是虛構(gòu)的；我們已經(jīng)與客戶合作生產(chǎn)一些已經(jīng)到位的產(chǎn)品。我們認(rèn)為，通過利用我們先進的晶圓級集成技術(shù)，我們可以為客戶提供非常重要的產(chǎn)品使他們能夠繼續(xù)增強能力，為他們的人工智能集群或[超級計算機]引入更多計算、更節(jié)能的計算。” 一般而言，晶圓級處理器（即 Cerebras 的 WSE），特別是基于 InFO_SoW 的處理器，可提供顯著的性能和效率優(yōu)勢，包括高帶寬和低延遲的核心到核心通信、低功率傳輸網(wǎng)絡(luò)阻抗以及高能源效率。作為額外的好處，此類處理器還具有“額外”核心形式的額外冗余。 

然而，InFO_SoW技術(shù)有一定的局限性。例如，使用這種方法制造的晶圓級處理器完全依賴于片上存儲器，這可能無法滿足未來人工智能的需求（但目前來說很好）。CoW-SoW 將解決這個問題，因為它將允許將 HBM4 放置在此類晶圓上。此外，InFO_SoW晶圓采用單節(jié)點加工，該節(jié)點不支持3D堆疊，而CoW-SoW產(chǎn)品將支持3D堆疊。

文章來源：半導(dǎo)體行業(yè)觀察