英偉達(dá)黃仁勛反駁三星HBM3e有問(wèn)題

近日，英偉達(dá)(NVIDIA)執(zhí)行長(zhǎng)黃仁勛在2024年中國(guó)臺(tái)北國(guó)際電腦展上對(duì)三星HBM因過(guò)熱問(wèn)題而未能通過(guò)測(cè)試的報(bào)道進(jìn)行了反駁。

他表示，英偉達(dá)正在努力測(cè)試三星和美光生產(chǎn)的HBM芯片，但目前尚未通過(guò)測(cè)試，因?yàn)檫€有更多的工程工作要做。其中特別針對(duì)三星HBM產(chǎn)品的質(zhì)量問(wèn)題，黃仁勛表示，認(rèn)證三星HBM需要更多工作和充足耐心，而并非部分媒體所報(bào)道的因芯片過(guò)熱問(wèn)題未通過(guò)質(zhì)量測(cè)試。他重申，英偉達(dá)與三星的合作進(jìn)展順利。

此前，三星也堅(jiān)決否認(rèn)有關(guān)其高帶寬存儲(chǔ)（HBM）產(chǎn)品未能達(dá)到英偉達(dá)質(zhì)量標(biāo)準(zhǔn)的報(bào)道。三星電子在一份聲明中表示，正在與全球各合作伙伴密切合作，不斷測(cè)試技術(shù)和性能以確保其產(chǎn)品的質(zhì)量和可靠性。

3月下旬，黃仁勛在美國(guó)加州圣何塞會(huì)議中心舉行的年度開發(fā)者大會(huì)上參觀了三星電子展臺(tái)，他在HBM3E展臺(tái)標(biāo)牌上寫下了“Jensen Approved”（黃仁勛認(rèn)證），引發(fā)了市場(chǎng)期待。再加上此次黃仁勛為此澄清，業(yè)界猜測(cè)，三星的HBM預(yù)計(jì)將通過(guò)驗(yàn)證，供應(yīng)給NVIDIA。

HBM需求量極大，受限良率問(wèn)題缺口較大

由于人工智能尤其是生成式AI的廣泛采用，行業(yè)未來(lái)幾年對(duì)高帶寬內(nèi)存的需求十分巨大。

據(jù)TrendForce集邦咨詢研究顯示，目前高端AI服務(wù)器GPU搭載HBM已成主流。預(yù)估2023年全球HBM需求量將年增近六成，達(dá)到2.9億GB，2024年將再成長(zhǎng)三成。到2025年，全球若以等同ChatGPT的超大型AIGC產(chǎn)品5款、Midjourney的中型AIGC產(chǎn)品有25款，以及80款小型AIGC產(chǎn)品估算，上述所需的運(yùn)算資源至少為145,600~233,700顆NVIDIA A100 GPU，再加上新興應(yīng)用如超級(jí)計(jì)算機(jī)、8K影音串流、AR/VR等，也將同步提高云端運(yùn)算系統(tǒng)的負(fù)載，高速運(yùn)算需求高漲。

而從產(chǎn)能方面，TrendForce集邦咨詢預(yù)計(jì)，2023~2024年HBM占DRAM總產(chǎn)能分別是2%及5%，至2025年占比預(yù)估將超過(guò)10%。產(chǎn)值方面，2024年起HBM之于DRAM總產(chǎn)值預(yù)估可逾20%，至2025年占比有機(jī)會(huì)逾三成。

其中英偉達(dá)一家的需求就十分驚人。據(jù)TrendForce集邦咨詢研究，NVIDIA Hopper平臺(tái)H100于今年第一季短缺情形逐漸紓解，屬同平臺(tái)的新品H200于第二季后逐漸放量，第三季新平臺(tái)Blackwell將進(jìn)入市場(chǎng)，第四季擴(kuò)展到數(shù)據(jù)中心客戶。但今年應(yīng)仍以Hopper平臺(tái)為主，包含H100、H200等產(chǎn)品線；根據(jù)供應(yīng)鏈導(dǎo)入Blackwell平臺(tái)進(jìn)度，預(yù)計(jì)今年第四季才會(huì)開始放量，占整體高階GPU比例將低于10%。HBM方面，隨著NVIDIA GPU平臺(tái)推進(jìn)，H100主搭載80GB的HBM3，至2025年的B200將達(dá)搭載288GB的HBM3e，單顆搭載容量將近3～4倍成長(zhǎng)。而據(jù)三大原廠目前擴(kuò)展規(guī)劃，2025年HBM生產(chǎn)量預(yù)期也將翻倍。

目前，從行業(yè)價(jià)格來(lái)看，HBM的價(jià)格是現(xiàn)有DRAM產(chǎn)品的5-6倍，DDR5的價(jià)格也比DDR4高出15%到20%。雖然價(jià)格上較高，但是仍然供應(yīng)不上。據(jù)TrendForce分析師表示，普遍猜測(cè)良率約只50～60%，差不多是做兩個(gè)壞一個(gè)的狀態(tài)，因?yàn)樗恢灰询B起來(lái)，還需要加壓，讓整體高度能與其他芯片對(duì)接，「但加壓需要上下同時(shí)，并且保持平衡，失衡就會(huì)壞片。」

TrendForce集邦咨詢表示，盡管三大原廠的新廠將于2025年完工，但部分廠房后續(xù)的量產(chǎn)時(shí)程尚未有明確規(guī)劃，需依賴2024年的獲利，才得以持續(xù)擴(kuò)大采購(gòu)機(jī)臺(tái)，此也進(jìn)一步推動(dòng)三大原廠堅(jiān)守存儲(chǔ)器價(jià)格今年漲勢(shì)。除此之外，由于NVIDIA GB200將于2025年放量，其規(guī)格為HBM3e 192/384GB，預(yù)期HBM產(chǎn)出將接近翻倍，且緊接各原廠將迎來(lái)HBM4研發(fā)，若投資沒(méi)有明顯擴(kuò)大，因各家產(chǎn)能規(guī)劃皆以HBM為優(yōu)先，在產(chǎn)能排擠的效應(yīng)之下，DRAM產(chǎn)品恐有供應(yīng)不及的可能性。

公開資料顯示，三星、美光、SK海力士目前HBM競(jìng)賽規(guī)劃如下：

SK海力士方面，除了M16廠明年產(chǎn)能預(yù)計(jì)擴(kuò)大，M15X廠同樣亦規(guī)劃于2025年完工，并于明年底量產(chǎn)。已與臺(tái)積電簽署諒解備忘錄（MOU）合作開發(fā)HBM4，并在下一代先進(jìn)封裝技術(shù)方面進(jìn)行合作，采用臺(tái)積電的邏輯工藝制程生產(chǎn)HBM4的基礎(chǔ)芯片，計(jì)劃于2026年量產(chǎn)，并計(jì)劃未來(lái)提供定制化的HBM產(chǎn)品。

三星方面，現(xiàn)有廠房2024年底產(chǎn)能大致滿載，新廠房P4L規(guī)劃于2025年完工，同時(shí)Line15廠區(qū)將進(jìn)行制程轉(zhuǎn)換，由1Ynm轉(zhuǎn)換至1beta nm以上。今年下半年快速過(guò)渡到HBM3e，8-H HBM3e已開始提前量產(chǎn)，并加快量產(chǎn)12-H HBM3e，預(yù)計(jì)到年底HBM3e將占據(jù)人力資本管理（HCM）總銷量的三分之二以上。

美光方面，行業(yè)消息顯示，今年年底美光HBM產(chǎn)能為2萬(wàn)片12英寸晶圓，其設(shè)定的目標(biāo)是最早在明年下半年開發(fā)第6代HBM（HBM4），并預(yù)計(jì)在2028年開發(fā)第7代HBM4E。

全球市場(chǎng)研究機(jī)構(gòu)TrendForce集邦咨詢此前預(yù)計(jì)，2023年HBM產(chǎn)值占比之于DRAM整體產(chǎn)業(yè)約8.4%，至2024年底將擴(kuò)大至20.1%。同時(shí)，新型存儲(chǔ)技術(shù)也不斷涌現(xiàn)，3D DRAM時(shí)代即將開啟；SCM潛力即將釋放，PCIe 6.0/7.0蓄勢(shì)待發(fā)…