2654
作者：暢秋
在晶圓代工領(lǐng)域，三星與臺(tái)積電是純粹的競(jìng)爭(zhēng)關(guān)系，但在存儲(chǔ)芯片市場(chǎng)，作為行業(yè)霸主，三星卻不得不尋求與臺(tái)積電深入合作，這都是英偉達(dá)惹的禍。
據(jù)DigiTimes報(bào)道，三星HBM3E內(nèi)存尚未通過英偉達(dá)的測(cè)試，仍需要進(jìn)一步驗(yàn)證，這是因?yàn)榭ㄔ诹伺_(tái)積電的審批環(huán)節(jié)。作為英偉達(dá)AI GPU芯片的制造和封裝廠，臺(tái)積電是英偉達(dá)驗(yàn)證環(huán)節(jié)的重要參與者。據(jù)悉，臺(tái)積電采用的是基于SK海力士HBM3E產(chǎn)品設(shè)定的檢測(cè)標(biāo)準(zhǔn)，而三星的HBM3E產(chǎn)品在制造工藝上有些差異，例如，SK海力士芯片封裝環(huán)節(jié)采用了MR-MUF材料技術(shù)，三星則是基于TC-NCF技術(shù)，這會(huì)對(duì)一些參數(shù)產(chǎn)生影響。
三星在4月表示，其8層垂直堆疊的HBM3E已經(jīng)在4月量產(chǎn)，并計(jì)劃在今年第二季度量產(chǎn)12層堆疊的HBM3E，比原計(jì)劃提前了一個(gè)季度。按照三星的說法，為了更好地應(yīng)對(duì)生成式AI日益增長(zhǎng)的需求，該公司加快了新款HBM產(chǎn)品的項(xiàng)目進(jìn)度。
自從HBM問世并量產(chǎn)以來，SK海力士一直是英偉達(dá)為其AI GPU配備該類內(nèi)存的獨(dú)家供應(yīng)商，發(fā)展到HBM3E版本，依然如此，只是從2024年第二季度開始，另外兩家內(nèi)存大廠才開始加入英偉達(dá)HBM供應(yīng)鏈。因此，SK海力士是行業(yè)霸主，市場(chǎng)份額超過80%。
2022年，SK海力士專為英偉達(dá)的H100設(shè)計(jì)了HBM3，其性能令人驚訝，且HBM在經(jīng)濟(jì)上是可行的，并一舉確立了行業(yè)地位。在這種情況下，三星和美光準(zhǔn)備花費(fèi)數(shù)十億美元來擴(kuò)大芯片生產(chǎn)能力。最近，三星推出了其12層堆疊的HBM3E，旨在將其與SK海力士和美光的8層堆疊產(chǎn)品區(qū)分開來。
在不久前舉行的年度股東大會(huì)上，SK海力士非常享受它的勝利成果，這家韓國(guó)內(nèi)存制造商表示，HBM必須為客戶“定制和專業(yè)化”，這是在強(qiáng)調(diào)其與英偉達(dá)的深厚關(guān)系。
同期，三星也宣布了其HBM產(chǎn)量的增長(zhǎng)計(jì)劃，一位高管表示，該公司計(jì)劃今年將芯片產(chǎn)量增加兩倍。英偉達(dá)首席執(zhí)行官黃仁勛（Jensen Huang）在Blackwell產(chǎn)品發(fā)布會(huì)上表示，正在對(duì)三星的HBM3E進(jìn)行資格認(rèn)證，黃仁勛這是在側(cè)面敲打SK海力士，以避免供應(yīng)商一家獨(dú)大，出現(xiàn)客大欺店的情況。
相對(duì)于三星和SK海力士，美光（Micron）晚一年才推出HBM產(chǎn)品，但憑借其在HBM3E版本產(chǎn)品上的“彎道超車”表現(xiàn)，特別是其3D堆疊技術(shù)，使HBM3E在有限的空間中，滿足高帶寬與大容量的需求，有望在HBM競(jìng)賽中扳回一城。美光的HBM3E瞄向了英偉達(dá)新推出的DGX GH200。
?01、三巨頭排隊(duì)驗(yàn)證HBM3E
作為AI服務(wù)器芯片行業(yè)霸主，英偉達(dá)具有很強(qiáng)的話語(yǔ)權(quán)，這使得內(nèi)存行業(yè)廠商不得不順應(yīng)該公司的標(biāo)準(zhǔn)和驗(yàn)證要求。而為了實(shí)現(xiàn)供應(yīng)鏈多元化，英偉達(dá)將更多HBM內(nèi)存廠商納入了其供應(yīng)鏈，作為新進(jìn)入者，三星的HBM3E正在等待驗(yàn)證通過，而美光和SK海力士已經(jīng)在2023下半年向英偉達(dá)提供了8層垂直堆疊的HBM3E（24GB）樣品，并在2024年初通過了英偉達(dá)的驗(yàn)證，并獲得了訂單。
現(xiàn)在，只有三星一家在焦急地等待，因?yàn)檫@三大原廠的HBM3E驗(yàn)證結(jié)果，將決定英偉達(dá)2024全年HBM供應(yīng)商的采購(gòu)權(quán)重分配。
2023年，英偉達(dá)的高端AI芯片（采用HBM內(nèi)存）是A100/A800和H100/H800，2024年，其產(chǎn)品組合更多了，除了上述型號(hào)，還將再推出使用6個(gè)HBM3E的H200和8個(gè)HBM3E的B100，并整合該公司自研的Arm架構(gòu)CPU，推出GH200和GB200。
除了英偉達(dá)，另外兩大處理器廠商也在加緊拓展AI服務(wù)器市場(chǎng)，這將進(jìn)一步推動(dòng)HBM內(nèi)存市場(chǎng)的繁榮。
2024年，AMD出貨的主力產(chǎn)品是MI300系列，采用HBM3內(nèi)存，下一代MI350將采用HBM3E，預(yù)計(jì)2024下半年開始進(jìn)行HBM驗(yàn)證，大批量上市將在2025年第一季度。英特爾方面，2022下半年推出的Gaudi 2采用了6個(gè)HBM2E，2024年，預(yù)計(jì)其新型號(hào)Gaudi 3仍將采用HBM2E，但用量升至8個(gè)。
未來，除了英偉達(dá)，AMD和英特爾會(huì)使用越來越多的HBM產(chǎn)品，這會(huì)給三大內(nèi)存原廠提供更多商機(jī)。
?02、驗(yàn)證的卡點(diǎn)
據(jù)分析師和行業(yè)觀察人士稱，在HBM產(chǎn)品驗(yàn)證方面，三星落后的原因之一是其堅(jiān)持使用被稱為熱壓非導(dǎo)電膜（TC-NCF）的技術(shù)，這導(dǎo)致了一些生產(chǎn)問題，而SK海力士則一直采用大規(guī)?；亓髂Ｖ频撞刻畛洌∕R-MUF）技術(shù)，可以克服NCF的弱點(diǎn)。
TC-NCF技術(shù)已被芯片制造商廣泛使用，用于將多層芯片堆疊在緊湊的高帶寬存儲(chǔ)芯片組中，因?yàn)槭褂脽釅嚎s薄膜有助于最大限度地減少堆疊芯片之間的空間。但是，隨著層數(shù)不斷增加，制造變得越來越復(fù)雜，因此，經(jīng)常存在與粘合劑材料相關(guān)的問題，芯片制造商一直在尋找替代方案來解決這些問題。MR-MUF是一種環(huán)氧樹脂模塑化合物，被認(rèn)為在避免晶圓翹曲方面更有優(yōu)勢(shì)。
SK海力士率先成功轉(zhuǎn)向MR-MUF技術(shù)，并成為第一家向英偉達(dá)供應(yīng)HBM3內(nèi)存的供應(yīng)商。
在SK海力士成功將MR-MUF應(yīng)用于HBM2E生產(chǎn)后，受到了芯片行業(yè)的關(guān)注。SK海力士使用的這種化合物是與Namics合作生產(chǎn)的。
MR-MUF用于HBM封裝，它對(duì)HBM芯片的外部結(jié)構(gòu)有顯著影響。SK海力士在創(chuàng)建12層HBM3時(shí)，將一個(gè)產(chǎn)品中堆疊的DRAM數(shù)量從8個(gè)（16GB）增加到12個(gè)，從而將容量提高了50%。通過這種方式，SK海力士實(shí)現(xiàn)了24GB的容量。為了在保持芯片厚度的同時(shí)增加容量（堆疊層數(shù)），必須將DRAM芯片逐個(gè)向上堆疊，這會(huì)導(dǎo)致較薄的芯片產(chǎn)生彎曲，MR-MUF封裝對(duì)于防止這種情況并保持芯片的厚度是有益的。
不久前，有消息人士說，三星發(fā)布了旨在處理MR-MUF技術(shù)的芯片制造設(shè)備的采購(gòu)訂單。消息人士稱，三星與包括日本長(zhǎng)瀨在內(nèi)的材料制造商進(jìn)行談判，以采購(gòu)MUF材料，使用MUF的高端芯片的大規(guī)模生產(chǎn)最早可能要到2025年才能準(zhǔn)備就緒，因?yàn)槿切枰M(jìn)行更多的測(cè)試。
據(jù)悉，三星對(duì)其HBM內(nèi)存進(jìn)行了大規(guī)模的MR-MUF工藝測(cè)試，結(jié)果顯示與現(xiàn)有的TC-NCF相比，吞吐量有所提高，但物理特性有所下降。
三星芯片制造部門的一位高級(jí)主管在2023年下令對(duì)MUF技術(shù)進(jìn)行測(cè)試，得出的結(jié)論是MUF不適用于HBM產(chǎn)品，最為合適的對(duì)象是3D堆疊RDIMM。一般情況下，3D堆疊RDIMM采用硅通孔（TSV）技術(shù)制造，主要用于服務(wù)器。硅通孔技術(shù)是在Wafer或者Die上穿出數(shù)千個(gè)小孔，實(shí)現(xiàn)硅片堆疊的垂直互連通道，而MUF則是上下連接，縮小相互之間間隙的材料，有助于緊密凝固和結(jié)合各種垂直堆疊的半導(dǎo)體材料。
據(jù)悉，三星計(jì)劃與SDI合作開發(fā)自己的MUF化合物材料，而且已經(jīng)從日本訂購(gòu)了MUF所需要的相關(guān)設(shè)備，看起來要推進(jìn)到下一階段，以實(shí)現(xiàn)更先進(jìn)的封裝工藝，并提高生產(chǎn)效率。
消息人士表示，三星計(jì)劃在其最新的HBM芯片上同時(shí)使用NCF和MUF材料。
但三星并未承認(rèn)，該公司表示，其內(nèi)部開發(fā)的NCF技術(shù)是HBM產(chǎn)品的“最佳解決方案”，將用于其新的HBM3E芯片?！拔覀冋诎从?jì)劃開展HBM3E產(chǎn)品業(yè)務(wù)”，三星表示。
如果三星使用MUF為真的話，則突顯了該公司在AI芯片競(jìng)賽中面臨的越來越大的壓力。據(jù)悉，另一家內(nèi)存大廠美光也打算使用MUF材料。
?03、發(fā)展HBM4，依然要過臺(tái)積電這一關(guān)
HBM3E的下一個(gè)版本，就是HBM4，三星正在加快研發(fā)腳步，爭(zhēng)取縮小與SK海力士的差距。
不久前，三星公布了HBM路線圖，預(yù)計(jì)2026年的HBM出貨量是2023年的13.8倍，該公司表示，到2028年，HBM內(nèi)存的年產(chǎn)量將進(jìn)一步上升至2023年的23.1倍。
在代號(hào)為“Snowbolt”的第六代HBM芯片HBM4方面，三星計(jì)劃將緩沖芯片應(yīng)用于堆疊內(nèi)存的底層以提高效率。除此之外，還沒有更多關(guān)于三星HBM4的技術(shù)細(xì)節(jié)流出。
SK海力士方面，在擴(kuò)充HBM3E生產(chǎn)能力的同時(shí)，該公司還與臺(tái)積電簽署了諒解備忘錄（MOU），雙方就下一代HBM產(chǎn)品生產(chǎn)和加強(qiáng)整合HBM與邏輯層的先進(jìn)封裝技術(shù)密切合作，以開發(fā)出新一代的HBM4產(chǎn)品。
雖然距離HBM4投產(chǎn)還有兩年的時(shí)間，SK海力士已經(jīng)在加速推進(jìn)第七代HBM產(chǎn)品（HBM4E）的開發(fā)工作了，據(jù)etnews報(bào)道，該公司的HBM先進(jìn)技術(shù)團(tuán)隊(duì)負(fù)責(zé)人Kim Kwi-wook在近日舉行的“IMW 2024”活動(dòng)上分享了下一代HBM的發(fā)展方向，表示當(dāng)前HBM技術(shù)已達(dá)到新的水平，同時(shí)，代際更迭周期也在縮短，從HBM3E開始，由以往的兩年變成了一年。
面對(duì)競(jìng)爭(zhēng)，SK海力士的HBM項(xiàng)目正在提速，預(yù)計(jì)首批12層堆疊的HBM4最快會(huì)在2025下半年到來，到2026年還會(huì)有16層堆疊的產(chǎn)品，會(huì)向更加定制化的方向發(fā)展，而HBM4E最早會(huì)在2026年投產(chǎn)。這是SK海力士首次提及HBM4E，確認(rèn)了新標(biāo)準(zhǔn)的存在，據(jù)悉，其帶寬將是上一代產(chǎn)品的1.4倍。
5月中旬，在2024年歐洲技術(shù)研討會(huì)上，臺(tái)積電表示，將使用其12FFC+（12nm級(jí)）和N5（5nm級(jí)）制程工藝制造HBM4芯片。
臺(tái)積電設(shè)計(jì)與技術(shù)平臺(tái)高級(jí)總監(jiān)表示：“我們正在與主要的HBM內(nèi)存合作伙伴（美光、三星、SK海力士）合作，開發(fā)HBM4全棧集成的先進(jìn)制程，N5制程可以使HBM4以更低的功耗提供更多的邏輯功能?！?/p>
N5制程允許將更多的邏輯功能封裝到HBM4中，并實(shí)現(xiàn)非常精細(xì)的互連間距，這對(duì)于邏輯芯片上的直接鍵合至關(guān)重要，可以提高AI和HPC處理器的內(nèi)存性能。
相對(duì)于N5，臺(tái)積電的12FFC+工藝（源自該公司的16nm FinFET 技術(shù)）更加經(jīng)濟(jì)，制造的基礎(chǔ)芯片能構(gòu)建12層和16層的HBM4內(nèi)存堆棧，分別提供48GB和64GB的容量。
臺(tái)積電還在優(yōu)化封裝技術(shù)，特別是CoWoS-L和CoWoS-R，以支持HBM4集成。這些先進(jìn)的封裝技術(shù)有助于組裝多達(dá)12層的HBM4內(nèi)存堆棧。新的轉(zhuǎn)接板能確保2000多個(gè)互連的高效路由，同時(shí)保持信號(hào)完整性。據(jù)臺(tái)積電介紹，到目前為止，實(shí)驗(yàn)性HBM4內(nèi)存在14mA時(shí)的數(shù)據(jù)傳輸速率已達(dá)到6 GT/s。
臺(tái)積電還在與Cadence、Synopsys和Ansys等EDA公司合作，對(duì)HBM4通道信號(hào)完整性、IR/EM和熱精度進(jìn)行認(rèn)證。
?04、三星尋求與臺(tái)積電合作
由于英偉達(dá)在AI服務(wù)器芯片市場(chǎng)處于霸主地位，而該公司的高性能GPU都是由臺(tái)積電代工生產(chǎn)的，因此，在對(duì)HBM內(nèi)存大廠的產(chǎn)品進(jìn)行驗(yàn)證時(shí)，臺(tái)積電扮演著重要的角色。此時(shí)，雖然是晶圓代工領(lǐng)域的競(jìng)爭(zhēng)對(duì)手，但要在HBM內(nèi)存市場(chǎng)拓展出更多空間，在進(jìn)行產(chǎn)品驗(yàn)證時(shí)，三星必須面對(duì)臺(tái)積電。
今年4月，三星電子共同執(zhí)行長(zhǎng)慶桂顯低調(diào)訪臺(tái)，傳拜訪了臺(tái)積電，消息人士透露，慶桂顯此行的任務(wù)中，最主要是推廣三星最新的HBM內(nèi)存。
之前，臺(tái)積電與SK海力士聯(lián)手，組成名為“One Team”的戰(zhàn)略同盟，共同開發(fā)下一代HBM4內(nèi)存，目標(biāo)是通過匯集臺(tái)積電與SK海力士在新一代AI半導(dǎo)體封裝上的技術(shù)優(yōu)勢(shì)，鞏固雙方在AI市場(chǎng)的地位。
慶桂顯此行，對(duì)于三星HBM3E產(chǎn)品盡快通過英偉達(dá)驗(yàn)證有積極作用，同時(shí)，三星也希望臺(tái)積電能夠?qū)⑵銱BM內(nèi)存推薦給客戶，以實(shí)現(xiàn)將三星產(chǎn)品整合進(jìn)更多AI芯片和服務(wù)器系統(tǒng)。
下載ECAD模型
