加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • AI服務(wù)器帶動(dòng)DDR5和HBM加速前進(jìn)
    • 三大內(nèi)存原廠的表現(xiàn)
    • 結(jié)語(yǔ)
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

內(nèi)存芯片的瘋狂或?qū)⒃?024年重演

02/18 11:30
5310
閱讀需 18 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

作者:暢秋

糟糕的2023年已經(jīng)過(guò)去,存儲(chǔ)芯片市場(chǎng)正在醞釀一場(chǎng)新的爆發(fā)。

據(jù)TrendForce統(tǒng)計(jì),2023年第四季度,全球DRAM(內(nèi)存)和NAND閃存的價(jià)格約上漲 3%~8%。相對(duì)于PC市場(chǎng)而言,服務(wù)器DRAM市場(chǎng)對(duì)增長(zhǎng)起到更大作用。

2024年,隨著運(yùn)算速度的提升,DRAM和NAND閃存在各類AI應(yīng)用,如智能手機(jī)、服務(wù)器、筆電的單機(jī)平均搭載容量都會(huì)增長(zhǎng),其中,服務(wù)器應(yīng)用的增長(zhǎng)幅度最高。

智能手機(jī)方面,2023年,由于供過(guò)于求,存儲(chǔ)器價(jià)格快速下跌,由于價(jià)格很低,推升了2023年智能手機(jī)DRAM單機(jī)平均搭載容量年增17.5%。2024年,在沒(méi)有新應(yīng)用推出的預(yù)期下,智能手機(jī)DRAM的單機(jī)平均搭載容量的增長(zhǎng)幅度將放緩,預(yù)估為11%。

服務(wù)器方面,伴隨AI服務(wù)器需求持續(xù)增加,高端AI芯片陸續(xù)推出,由于訓(xùn)練是目前AI市場(chǎng)主流,其采用的存儲(chǔ)器是以有助于高速運(yùn)算的DRAM為主,與NAND閃存相比,DRAM的單機(jī)平均搭載容量增長(zhǎng)幅度更高,預(yù)計(jì)年增17.3%。

筆電方面,預(yù)計(jì)搭載新款CPU的筆電要到下半年才會(huì)陸續(xù)推出,對(duì)拉高存儲(chǔ)器容量的幫助有限,另外,AI PC要求DRAM容量加大至16GB,預(yù)計(jì)筆電DRAM的單機(jī)平均搭載容量年增率約為12.4%。

AI服務(wù)器帶動(dòng)DDR5和HBM加速前進(jìn)

DDR5加速滲透

AI大模型持續(xù)迭代升級(jí),參數(shù)持續(xù)增長(zhǎng),大模型的參數(shù)規(guī)模越大,算力負(fù)擔(dān)越重,而AI服務(wù)器是算力的核心。2023年,AI服務(wù)器(搭載GPU、FPGA、ASIC等高算力芯片)出貨量近120萬(wàn)臺(tái),年增38.4%,占整體服務(wù)器出貨量的9%,按照這個(gè)勢(shì)頭發(fā)展下去,2026年將占到15%的市場(chǎng)份額。

更多的大模型參數(shù)需要大容量、高速的內(nèi)存支持,美光在法說(shuō)會(huì)上表示,一臺(tái)AI服務(wù)器的DRAM使用量是普通服務(wù)器的6-8倍。到2026年,預(yù)計(jì)服務(wù)器DRAM(不含HBM)市場(chǎng)規(guī)模有望達(dá)到321億美元。

針對(duì)AI服務(wù)器的高性能要求,更強(qiáng)大的內(nèi)存——DDR5需求隨之提升。與DDR4相比,DDR5具備更高速度、更大容量和更低能耗等特點(diǎn)。DDR5內(nèi)存的最高傳輸速率達(dá)6.4Gbps,比DDR4高出一倍。

內(nèi)存接口芯片是服務(wù)器內(nèi)存模組的核心邏輯器件,作為服務(wù)器CPU存取內(nèi)存數(shù)據(jù)的必由通路,其主要作用是提升內(nèi)存數(shù)據(jù)訪問(wèn)的速度和穩(wěn)定性,滿足服務(wù)器CPU對(duì)內(nèi)存模組日益增長(zhǎng)的高性能和大容量需求。

隨著DDR內(nèi)存技術(shù)向DDR5演進(jìn),內(nèi)存接口芯片的用量也在增加。英特爾和AMD支持DDR5的新平臺(tái)推出后,服務(wù)器DDR5又出現(xiàn)了PMIC匹配問(wèn)題,使得DDR5的市場(chǎng)規(guī)模不能快速提升,新平臺(tái)的推出受阻,目前,DRAM原廠和PMIC廠商都已著手解決該問(wèn)題。雖然短期內(nèi)原廠DDR5供應(yīng)受阻,但由于PMIC供應(yīng)廠商較多,切換及適配不會(huì)成為DDR5滲透率提升的瓶頸,服務(wù)器DDR5滲透率有望于今年達(dá)到30%左右。隨著AI服務(wù)器的加速發(fā)展以及PMIC良率問(wèn)題逐步得到解決,DDR5滲透率有望進(jìn)一步提升,2026年將達(dá)到85%。

存算一體落地之前,HBM將唱主角

目前,GPU主流內(nèi)存方案為GDDR和HBM(高帶寬內(nèi)存)兩種,其中,GDDR在SoC周圍有大量外設(shè),該方案已經(jīng)從GDDR5升級(jí)為GDDR6,以提高帶寬。但是,如果GDDR要增加1GB的帶寬,將會(huì)帶來(lái)更多功耗,不利于系統(tǒng)性能提升。

HBM方案作為近存計(jì)算的典型技術(shù),可以改善存算分離導(dǎo)致的“存儲(chǔ)墻”問(wèn)題,即存儲(chǔ)單元的帶寬問(wèn)題、存儲(chǔ)單元與計(jì)算單元數(shù)據(jù)傳輸的能效問(wèn)題,并且,HBM中Die裸片的垂直堆疊也增大了容量。因此,在存算一體真正落地之前,HBM技術(shù)是契合當(dāng)前GPU對(duì)更多內(nèi)存、更高帶寬需求的最佳方案。

HBM的特點(diǎn)是大容量、高帶寬(帶寬用于衡量DRAM傳輸數(shù)據(jù)的速率,是核心技術(shù)指標(biāo)),它將多個(gè)DDR裸片堆疊在一起后和GPU封裝在一起,實(shí)現(xiàn)大容量、高位寬的DDR組合陣列。

2013年,SK海力士率先推出HBM1,HBM1每個(gè)堆棧的帶寬為128GB/s、支持4個(gè)DRAM堆棧集成,容量為每堆棧4GB。2017年,SK海力士推出了HBM2,它的帶寬和容量與HBM1相比實(shí)現(xiàn)翻倍增長(zhǎng)。2018年,JEDEC推出了HBM2e規(guī)范,HBM2e可以實(shí)現(xiàn)每堆棧461GB/s的帶寬。SK海力士于2022上半年開(kāi)始量產(chǎn)HBM3,帶寬達(dá)到819.2 GB/s,支持12個(gè)DRAM堆棧集成,容量達(dá)每堆棧24GB。2023年,主流市場(chǎng)需求從HBM2e轉(zhuǎn)向HBM3,HBM3需求占比提升至39%,隨著使用HBM3的加速芯片陸續(xù)放量,預(yù)計(jì)2024年HBM3的市場(chǎng)需求占比將達(dá)到60%。

2023年底,英偉達(dá)發(fā)布了DGX GH200,進(jìn)一步推升了AI服務(wù)器對(duì)內(nèi)存性能的需求,DGX GH200共鏈接了256個(gè)Grace Hopper超級(jí)芯片,具有144TB的共享內(nèi)存,GH200單卡配備了480GB LPDDR5內(nèi)存和96GB的HBM顯存,而在上一代DGX H100服務(wù)器中,平均單個(gè)H100芯片對(duì)應(yīng)256GB內(nèi)存和80GB的HBM。二者對(duì)比,GH200方案的內(nèi)存容量有顯著提升。

TrendForce認(rèn)為,英偉達(dá)正在規(guī)劃更多HBM供應(yīng)商,美光(Micron)、SK海力士、三星都已于2023年陸續(xù)提供了8hi(24GB)樣品,三星的HBM3(24GB)已經(jīng)在2023年底完成驗(yàn)證。三大內(nèi)存原廠的HBM3e規(guī)劃和進(jìn)度如下表所示。

由于HBM的驗(yàn)證過(guò)程繁瑣,預(yù)計(jì)耗時(shí)兩個(gè)季度,以上三大內(nèi)存原廠都預(yù)計(jì)于2024年第一季完成驗(yàn)證。各原廠的HBM3e驗(yàn)證結(jié)果,也將決定英偉達(dá)2024年HBM供應(yīng)商的采購(gòu)權(quán)重分配。

展望2024年,需要觀察各AI芯片供應(yīng)商的項(xiàng)目進(jìn)度。

英偉達(dá)2023年的高端AI芯片(采用HBM的)的既有產(chǎn)品為A100、A800和H100、H800,2024年,除了上述型號(hào)外,該公司還將推出使用6個(gè)HBM3e的H200和8個(gè)HBM3e的B100,并同步整合自家基于Arm架構(gòu)的 CPU,推出GH200和GB200。

2024年,AMD將重點(diǎn)出貨MI300系列,采用HBM3,下一代MI350將采用HBM3e,將在2024下半年開(kāi)始進(jìn)行HBM驗(yàn)證,預(yù)計(jì)大規(guī)模量產(chǎn)時(shí)間將出現(xiàn)在2025年第一季度。

英特爾方面,2022下半年推出了Habana Gaudi 2,采用6個(gè)HBM2e,預(yù)計(jì)2024年新型號(hào)Gaudi 3將繼續(xù)采取HBM2e,但用量將升級(jí)至8個(gè)。

三大內(nèi)存原廠的表現(xiàn)

不久前,SK海力士公布了HBM發(fā)展路線圖,該公司副總裁Kim Chun-hwan透露,計(jì)劃在2024上半年量產(chǎn)HBM3e,并向客戶交付8層堆疊樣品,在6層堆棧HBM3e配置中,每層堆??商峁?.2 TB/s的通信帶寬,8層堆疊將進(jìn)一步提升HBM內(nèi)存的帶寬。

Kim Chun-hwan表示,在不斷升級(jí)的客戶期望的推動(dòng)下,存儲(chǔ)行業(yè)正在面臨激烈的生存競(jìng)爭(zhēng)。隨著制程工藝節(jié)點(diǎn)的縮小接近極限,存儲(chǔ)器廠商越來(lái)越關(guān)注新一代存儲(chǔ)架構(gòu)和工藝,以給客戶應(yīng)用系統(tǒng)提供更高的性能。為此,SK海力士已經(jīng)啟動(dòng)了HBM4的開(kāi)發(fā),計(jì)劃于2025年提供樣品,并于次年量產(chǎn)。

根據(jù)美光提供的信息,與前幾代HBM相比,HBM4每層堆棧的理論峰值帶寬將超過(guò)1.5 TB/s。為了實(shí)現(xiàn)這樣的帶寬,在保持合理功耗的同時(shí),HBM4的目標(biāo)是實(shí)現(xiàn)大約6GT/s的數(shù)據(jù)傳輸速率。

三星也有發(fā)展HBM4的時(shí)間表,計(jì)劃于2025年提供樣品,并于2026年量產(chǎn)。據(jù)三星高管Jaejune Kim透露,該公司HBM產(chǎn)量的一半以上是定制化產(chǎn)品,未來(lái),定制HBM方案的市場(chǎng)規(guī)模將進(jìn)一步擴(kuò)大。通過(guò)邏輯集成,量身定制的HBM對(duì)于滿足客戶個(gè)性化需求至關(guān)重要。

三星和SK海力士之間的競(jìng)爭(zhēng)正在升溫。

一些市場(chǎng)觀察人士表示,三星在HBM芯片開(kāi)發(fā)方面落后于SK海力士,為了在新接口標(biāo)準(zhǔn)CXL開(kāi)發(fā)中占據(jù)優(yōu)勢(shì)地位,三星加快了技術(shù)研發(fā)和產(chǎn)品布局。

三星電子執(zhí)行副總裁兼美國(guó)內(nèi)存業(yè)務(wù)主管 Lee Jung-bae在一篇博客文章中表示,該公司將擴(kuò)大32GB DDR5及1TB模塊產(chǎn)能,他表示:“我們將積極利用CXL內(nèi)存模塊 (CMM) 等新型接口,這將有助于實(shí)現(xiàn)內(nèi)存帶寬和容量可以根據(jù)運(yùn)營(yíng)需求無(wú)縫擴(kuò)展?!?/p>

SK海力士也表示,計(jì)劃加大對(duì)高帶寬內(nèi)存和DDR5芯片的投資,以適應(yīng)人工智能市場(chǎng)的增長(zhǎng)需求?!芭c2023年相比,2024年的資本支出將有所增加。……我們將最大限度地提升資金利用效率”,SK海力士副總裁兼首席財(cái)務(wù)官金宇賢表示:“在2023年投資金額的范圍內(nèi),我們根據(jù)產(chǎn)品優(yōu)先順序調(diào)整了資本支出,2024年,我們將更多地關(guān)注轉(zhuǎn)換制程工藝,而不只是增加產(chǎn)能?!?/p>

金宇賢表示,SK海力士將努力擴(kuò)大第四代和第五代10nm級(jí)制程內(nèi)存芯片的比例,到2024年底,這些新品將占據(jù)該公司DRAM產(chǎn)量的一半以上。不過(guò),他表示,要達(dá)到2022年第四季度的產(chǎn)能水平,還需要相當(dāng)長(zhǎng)時(shí)間。

SK海力士對(duì)引領(lǐng)HBM市場(chǎng)充滿信心,預(yù)測(cè)未來(lái)5年的年均增長(zhǎng)率將達(dá)到60%~80%。該公司DRAM營(yíng)銷主管Park Myung-soo表示:“我們2024年的HBM3和HBM3e芯片產(chǎn)能已經(jīng)售罄。根據(jù)客戶和市場(chǎng)觀察人士的說(shuō)法,我們的HBM3產(chǎn)能份額非常高。”

據(jù)TrendForce統(tǒng)計(jì),2023年第三季度,SK海力士擠下三星電子,成為全球最大的服務(wù)器DRAM廠商。報(bào)告顯示,2023年第三季度,SK海力士服務(wù)器DRAM銷售額達(dá)到18.5億美元,拿下49.6%的市場(chǎng)份額,穩(wěn)居全球龍頭寶座,排名第二的三星電子,在該季度的服務(wù)器DRAM銷售額為13.13億美元,市占率為35.2%,同期內(nèi),美光的服務(wù)器DRAM銷售額為5.6億美元,市占率為15.0%,排名第三。

需要指出是,以上統(tǒng)計(jì)數(shù)字僅是傳統(tǒng)服務(wù)器搭載的DDR5內(nèi)存,不包括用于AI服務(wù)器的HBM,若將HBM銷售計(jì)算在內(nèi),SK海力士領(lǐng)先三星電子的幅度會(huì)更大。

2024年1月24日,SK海力士發(fā)布了FY2023財(cái)報(bào),營(yíng)收為32.77萬(wàn)億韓元,同比下降27%。單看FY2023Q4表現(xiàn),營(yíng)收為11.31萬(wàn)億韓元,同比增長(zhǎng)47%,環(huán)比增長(zhǎng)25%。DRAM業(yè)務(wù)Q4營(yíng)收7.35萬(wàn)億韓元,同比增長(zhǎng)49.15%,環(huán)比增長(zhǎng)20.98%。該公司在FY2023年Q4扭虧為盈,業(yè)績(jī)開(kāi)始全面反彈。SK海力士表示,自FY2023年Q4開(kāi)始,該公司用于AI服務(wù)器和移動(dòng)端的產(chǎn)品需求都在增長(zhǎng),平均售價(jià)上升,存儲(chǔ)器市場(chǎng)環(huán)境有所改善。整個(gè)FY2023,該公司的DRAM憑借技術(shù)實(shí)力積極響應(yīng)了客戶需求,主力產(chǎn)品DDR5和HBM3的收入同比分別增長(zhǎng)4倍和5倍。

就整體DRAM模塊市場(chǎng)而言,三星電子仍穩(wěn)居DRAM霸主地位,但SK海力士正在急起直追。據(jù)Omdia統(tǒng)計(jì),2023年第三季度,三星電子在DRAM領(lǐng)域市占率為39.4%,SK海力士以35%的市占率居次位,美光排名第三,市占率為21.5%。

排名內(nèi)存行業(yè)第三位的美光也在加緊布局AI服務(wù)器市場(chǎng),該公司計(jì)劃在2024年第一季度量產(chǎn)HBM3e,以搶攻英偉達(dá)的超級(jí)計(jì)算機(jī)DGX GH200商機(jī)。美光技術(shù)開(kāi)發(fā)事業(yè)部資深副總裁Naga Chandrasekaran表示,采用EUV技術(shù)量產(chǎn)的1-gamma制程產(chǎn)品,正在研發(fā)過(guò)程中,預(yù)計(jì)于2025年量產(chǎn)。

業(yè)界人士指出,在HBM產(chǎn)品開(kāi)發(fā)方面,雖然美光落后三星和SK海力士近一年時(shí)間,但在新一代HBM3e產(chǎn)品開(kāi)發(fā)和量產(chǎn)進(jìn)度方面,該公司加快了節(jié)奏,有望在HBM競(jìng)賽中扳回一城。

結(jié)語(yǔ)

通過(guò)分析全球芯片市場(chǎng)不同細(xì)分領(lǐng)域的年度銷售數(shù)據(jù),包括存儲(chǔ)器、微處理器、邏輯電路、模擬電路、分立器件和光電子器件,結(jié)合不同領(lǐng)域年度銷售額同比增速的趨勢(shì),按照一輪周期中同比增速的最小值為周期底部、同比增速的最大值為周期頂部,可以得出以下結(jié)論:2002年、2008年、2011年、2015年、2019年、2023年是半導(dǎo)體行業(yè)周期底部,2004年、2010年、2014年、2017年、2021年是周期頂部。全球半導(dǎo)體市場(chǎng)大約每隔4~5年經(jīng)歷一輪周期,不同細(xì)分領(lǐng)域周期底部時(shí)間點(diǎn)略有差別。

在上述所有半導(dǎo)體細(xì)分領(lǐng)域中,存儲(chǔ)器周期波動(dòng)最大,在上行周期的頂部,2010年、2017年存儲(chǔ)器銷售額同比增長(zhǎng)分別為55%、61%,在下行周期的底部,2002年、2019年存儲(chǔ)器銷售額同比下降了30%、33%。據(jù)WSTS統(tǒng)計(jì),2022年全球半導(dǎo)體銷售額為5741億美元,其中,存儲(chǔ)器銷售額為1298億美元,占全球半導(dǎo)體銷售總額的22.6%,在過(guò)去20年內(nèi),存儲(chǔ)器長(zhǎng)期占半導(dǎo)體銷售總額比重的20%以上。因此,存儲(chǔ)器是集成電路中銷售額最大的細(xì)分領(lǐng)域,在整個(gè)產(chǎn)業(yè)中占據(jù)核心地位,存儲(chǔ)器市場(chǎng)變化周期是影響半導(dǎo)體周期的主要因素。

DRAM的上一輪周期在2017年12月左右見(jiàn)頂,在2019年12月觸底,下行周期持續(xù)時(shí)間在兩年時(shí)間,隨后經(jīng)歷了一年半左右的上行周期,上一輪周期持續(xù)了3-4年。本輪DRAM周期在2021年4月左右見(jiàn)頂,在2023年9月觸底,10月價(jià)格反彈。本輪下行周期持續(xù)時(shí)間已達(dá)兩年半,新一輪的DRAM上行周期已經(jīng)開(kāi)始。

或許在2024和2025年,內(nèi)存市場(chǎng)有望掀起新一波需求熱潮,重現(xiàn)2017和2018年輝煌的市場(chǎng)景象。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
AFBR-5803ATZ 1 Foxconn Transceiver, 1270nm Min, 1380nm Max, 125Mbps(Tx), 125Mbps(Rx), ST Connector, Through Hole Mount, ROHS COMPLIANT, SIP-9
$205.36 查看
TJA1043TK/1Y 1 NXP Semiconductors TJA1043 - High-speed CAN transceiver SON 14-Pin

ECAD模型

下載ECAD模型
$1.96 查看
TJA1021T/10/C,118 1 NXP Semiconductors TJA1021 - LIN 2.1/SAE J2602 transceiver SOIC 8-Pin

ECAD模型

下載ECAD模型
$1.44 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

公眾號(hào):半導(dǎo)體產(chǎn)業(yè)縱橫。立足產(chǎn)業(yè)視角,提供及時(shí)、專業(yè)、深度的前沿洞見(jiàn)、技術(shù)速遞、趨勢(shì)解析,鏈接產(chǎn)業(yè)資源,構(gòu)建IC生態(tài)圈,賦能中國(guó)半導(dǎo)體產(chǎn)業(yè),我們一直在路上。