加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專(zhuān)業(yè)用戶(hù)
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • 博通SS26價(jià)格漲至2萬(wàn)美元
    • 為什么缺,有替代嗎?
    • 結(jié) 語(yǔ)
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

這顆博通芯片,漲到14萬(wàn)

2023/08/25
4843
閱讀需 18 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

AI 賽道人滿(mǎn)為患,眼看AI服務(wù)器里最燒錢(qián)的GPU都齊了,但竟然會(huì)因?yàn)椤叭毙尽?,?dǎo)致無(wú)法出貨。

“海外找了一千片,還沒(méi)湊齊,太難了?!薄拔覀冋夜?yīng)商采購(gòu)AI服務(wù)器,就因?yàn)橹靼迦绷?a class="article-link" target="_blank" href="/manufacturer/1000428/">博通的PCle Switch 4.0芯片,沒(méi)法安排出貨,現(xiàn)在他們正在到處找?!?/p>

以博通SS26為代表的PCle Switch芯片,最近需求異常多,不僅現(xiàn)貨少,報(bào)價(jià)還從5500美元飆到20000美元!也難怪AI服務(wù)器會(huì)漲價(jià),一入AI深似海,原來(lái)不止是GPU價(jià)格在漲……

1、博通SS26,為什么這么搶手?

2、為什么缺?有替代嗎?

3、AI服務(wù)器還帶動(dòng)哪些芯片增長(zhǎng)?

博通SS26價(jià)格漲至2萬(wàn)美元

AI相關(guān)GPU和服務(wù)器缺貨潮還在持續(xù)發(fā)酵,英偉達(dá)、AMD等GPU大廠(chǎng)持續(xù)加單,而大模型下AI服務(wù)器集眾多硬件與零部件于一身,GPU這頭的短缺還在填補(bǔ),另一頭又開(kāi)始短缺,你永遠(yuǎn)不知道下一個(gè)缺的又是什么部件。

今年6月初開(kāi)始,博通的PCle Switch在市場(chǎng)上就有了缺貨跡象。

相關(guān)型號(hào)包括博通SS26、SS24、SS23打頭的芯片,詢(xún)價(jià)熱度較高,市場(chǎng)上找貨需求異常多,如SS26-0B00-02、SS24-0B00-02、SS23-0B00-02,其中SS26規(guī)格高,最為缺貨,規(guī)格低一些的SS24、SS23雖然沒(méi)那么缺,也有不少人在找貨。

關(guān)于高端的SS26-0B00-02市場(chǎng)價(jià)格,業(yè)內(nèi)人士告訴我們,目前其香港原裝報(bào)價(jià)是5500 USD/ 片(26片起購(gòu)),到了深圳現(xiàn)貨市場(chǎng),報(bào)價(jià)高達(dá)1.8萬(wàn)-2萬(wàn) USD/片(含稅),還不保證原裝。

芯世相觀察到,某些型號(hào)帶目標(biāo)價(jià)格也不一定能挖到現(xiàn)貨。比如SS23-0B00-02,有終端在海內(nèi)外到處找貨,接受5000元單價(jià),急需現(xiàn)貨。

以上芯片型號(hào),都屬于博通PEX89000 PCIe Gen 5.0系列交換機(jī),目前是其針對(duì)數(shù)據(jù)中心云平臺(tái)的PCI快速交換機(jī)中的最新系列產(chǎn)品,應(yīng)用于 ML/AI 和服務(wù)器/存儲(chǔ)應(yīng)用的可組合超大規(guī)模計(jì)算系統(tǒng)。

規(guī)格最高的SS26-0B00-00具有144個(gè)PCIe Gen 5.0通道,可實(shí)現(xiàn)高達(dá)9216 Tb/s(1152 GB/s)的原始帶寬。

因而博通的PEX89000系列交換機(jī),可以說(shuō)是為先進(jìn)計(jì)算而生的AI芯片了。

博通PEX89000 PCIe Gen 5.0系列交換機(jī)型號(hào),來(lái)源:broadcom.com

PCle(PCI-Express,peripheral component interconnect express),即外圍組件快速互連,是一種高帶寬擴(kuò)展總線(xiàn)。簡(jiǎn)單來(lái)說(shuō),總線(xiàn)就是電腦內(nèi)部進(jìn)行交互的公用通道,可以理解為各種交通道路,PCle就是其中的一種。

如果大家有自己裝機(jī)的經(jīng)歷,就會(huì)在主板上看到水平的PCle插槽。

PCle通常用于連接顯卡、固態(tài)硬盤(pán)以及采集卡和無(wú)線(xiàn)網(wǎng)卡等外設(shè),也常用于服務(wù)器平臺(tái),也越來(lái)越多地被用作存儲(chǔ)和GPU互連解決方案。

主板上的PCle通道分為x1、x2、x4、x8 和x16幾種配置,通道數(shù)量越多意味著帶寬越高,插槽也就更長(zhǎng)。我們組裝電腦時(shí),GPU就通常安在x16插槽中。

PCle既可以作為接口,又可以作為通道。當(dāng)它是接口的時(shí)候,可以插帶PCle接口的任何外設(shè):顯卡、無(wú)線(xiàn)網(wǎng)卡、USB接口、固態(tài)硬盤(pán)、聲卡等等,這個(gè)插槽里面,就有我們的PCle Switch芯片。

PCIe Switch,即 PCIe 開(kāi)關(guān)或 PCIe 交換機(jī),主要作用是實(shí)現(xiàn) PCIe 設(shè)備互聯(lián),像服務(wù)器要實(shí)現(xiàn)CPU、GPU等組件互聯(lián),就離不開(kāi)它。

有了PCle Switch,PCle從端對(duì)端的連接,變成多條總線(xiàn)連接,有效拓展了鏈路,形成一個(gè)高速的PCIe互聯(lián)網(wǎng)絡(luò),從而實(shí)現(xiàn)多設(shè)備通信。

PCle Switch的高可拓展性、低功耗、低延遲、高可靠性、高靈活性等優(yōu)勢(shì),使之廣泛應(yīng)用于機(jī)器學(xué)習(xí)人工智能、超融合部署和存儲(chǔ)系統(tǒng)中。

PCIe Switch連接多條PCIe總線(xiàn),來(lái)源:PCI-SIG官網(wǎng),中金公司研究部

計(jì)算機(jī)內(nèi)部包含PCle等各種總線(xiàn)協(xié)議,讓我們拆開(kāi)一臺(tái)AI服務(wù)器內(nèi)部看看。

NVIDIA HGX H100 8-GPU為例,8 塊 H100 GPU在全新的 FP8 精度下 AI 性能比上一代高 6 倍,可提供 900GB/s 的帶寬,該服務(wù)器內(nèi)部包含NVLink、PCIe和QPI等主板總線(xiàn)。

NVLink方面,8張 GPU(H100)之間互聯(lián)主要通過(guò)4個(gè)第三代NV Switch 芯片來(lái)實(shí)現(xiàn)。每個(gè)H100 GPU共通過(guò)18個(gè)NVLink 4.0(5+4+4+5)連接到4個(gè)NVSwitch芯片。每個(gè)NVSwitch相當(dāng)于一個(gè)完全無(wú)擁塞的交換機(jī),與8張H100 GPU卡實(shí)現(xiàn)完全連接。

NVLink是英偉達(dá)基于PCle Gen4研發(fā)的新技術(shù),是點(diǎn)對(duì)點(diǎn)的高速互聯(lián)技術(shù),支持多達(dá) 16 個(gè) GPU 或 CPU 的連接,可實(shí)現(xiàn)大規(guī)模的并行計(jì)算深度學(xué)習(xí)訓(xùn)練。

英偉達(dá)A100、H100等GPU可以分PCle和NVLink兩種版本,GPU互聯(lián)時(shí)用的是不同通道。PCle版本的GPU互聯(lián)便是通過(guò)PCIe通道完成的,借助PCIe switch,系統(tǒng)可以實(shí)現(xiàn)CPU-GPU,GPU-GPU的連接。

多個(gè)GPU之間連接,PCIe僅64GB/S,4個(gè)以上的GPU互聯(lián)就較為吃力了。隨著AI和高性能計(jì)算需求不斷增長(zhǎng),需要更大的互聯(lián)帶寬,NVLink的帶寬是雙向帶寬,如NVLink 3.0的帶寬可以達(dá)到7200 Gbit/s,即900 GB/s,明顯優(yōu)于PCIe,而且在每GPU連接數(shù)量上限也高達(dá)18張,GPU的性能就可以發(fā)揮到最大化,這也就是為啥黃老板說(shuō)買(mǎi)得越多省越多。

PCle方面,GPU與CPU之間通過(guò)PCIe 5.0總線(xiàn)實(shí)現(xiàn)互聯(lián)。圖中藍(lán)色方塊為 IP 網(wǎng)卡(CX7),既是網(wǎng)卡又能發(fā)揮PCIe Switch(5.0)擴(kuò)展功能,成為 CPU 與H100(GPU)之間互聯(lián)的橋梁。CPU之間則仍使用QPI總線(xiàn)進(jìn)行通信。

可以看出,一臺(tái)AI服務(wù)器要實(shí)現(xiàn)GPU-CPU互聯(lián),甚至是GPU之間的互聯(lián),都離不開(kāi)PCIe Switch芯片。來(lái)自博通SS26等芯片的需求普遍集中在服務(wù)器終端,它們也正是用于AI服務(wù)器的PCle Switch芯片。

“AI服務(wù)器要PCle 4.0、5.0及以上版本,做這類(lèi)產(chǎn)品的廠(chǎng)商少,價(jià)格很貴?!币晃环?wù)器專(zhuān)業(yè)人士告訴我們。

為什么缺,有替代嗎?

伴隨著AI 服務(wù)器、GPU等需求的增加,作為連接部件的PCle Switch需求也起來(lái)了。目前用于AI服務(wù)器的4.0、5.0版本屬于PCle Switch中的先進(jìn)版本。專(zhuān)業(yè)人士告訴我們,PCle Switch要看其支持的Lanes和Ports,參數(shù)越高,價(jià)格越貴。

PCIe最早由Intel于2001年提出,2003年正式推出PCIe 1.0版本,到2022年已迭代至6.0。根據(jù)PCI-SIG官網(wǎng),伴隨人工智能、自動(dòng)駕駛、AR/VR等具有高運(yùn)算要求的應(yīng)用快速發(fā)展,處理器I/O帶寬每三年實(shí)現(xiàn)翻番,也促使PCIe基本上按照3年一代的速度更新演進(jìn)。

PCle基本上平均每3年更新一代,其單通道速率都在翻倍增長(zhǎng),總帶寬也在提高。2022年P(guān)CI-SIG 正式發(fā)布PCIe 6.0 規(guī)范,這是PCIe問(wèn)世以來(lái)變化最大的一代,每通道數(shù)據(jù)傳輸速率從PCIe 5.0的32GT/s翻番至64GT/s,除了帶寬和效率的提升,還具有更低的延遲。2022年6月,PCI-SIG聯(lián)盟宣布PCIe 7.0版規(guī)范,單條通道(x1)單向可實(shí)現(xiàn)128GT/s傳輸速率,計(jì)劃于2025年推出最終版本。

別看PCIe 7.0版規(guī)范都出來(lái)了,博通的PCle Switch 5.0最近也被大家到處掃貨,但業(yè)內(nèi)人士告訴我們,市場(chǎng)上對(duì)PCIe 5.0的需求實(shí)際上還沒(méi)起來(lái),“其一是目前大規(guī)模出貨的CPU基本是PCIe 4.0,其二是英偉達(dá)A100/A800和國(guó)產(chǎn)GPU、NPU等也都是PCIe 4.0?!?/p>

目前用量大的仍是高端PCIe 4.0,且缺貨比較嚴(yán)重,在現(xiàn)貨市場(chǎng),原來(lái)單價(jià)2000-3000 RMB現(xiàn)在漲到大幾千,甚至1萬(wàn)元,供貨周期變長(zhǎng)很多。而低端4.0產(chǎn)品需求越來(lái)越少,普通服務(wù)器為實(shí)現(xiàn)更大靈活度也往中高端走,供貨渠道不多,供貨周期也變長(zhǎng)了,但價(jià)格只要小幾千元。

因此博通PCle Switch 5.0這類(lèi)芯片的起量還沒(méi)那么快,“預(yù)計(jì)國(guó)內(nèi)要在2024年下半年起量,到時(shí)候CPU才基本升級(jí)到PCIe 5.0。另外,英偉達(dá)H800也支持5.0版本,一些加速卡應(yīng)該會(huì)加入到5.0生態(tài)?!?/p>

那么一臺(tái)AI服務(wù)器要用多少PCle Switch芯片,用量有多大?

我們從前文對(duì)AI服務(wù)器的內(nèi)部拆解可以看出,CPU和GPU之間互聯(lián)的需求量不多,主要的用量在GPU之間的互聯(lián)。

如果你用的是A100 80G PCIE的8卡AI服務(wù)器,這里面8張A100互聯(lián)可能就要用到大量的PCle Switch,而NVLink版本的帶寬升級(jí)更大,GPU之間不用PCle Switch。

不過(guò),NVLink僅用于GPU之間,最終傳輸結(jié)果給GPU還是走PCle,“目前服務(wù)器都還是X86架構(gòu),所以基本都是PCle的IP,Intel本身并未支持NVLink?!盋PU與GPU互聯(lián)離不開(kāi)PCle Switch。

帶寬的高低,也是決定PCle Switch用量的重要因素,“還要看主帶寬是多少,比如它里面做了一個(gè)PCIe 5.0,64x,也就是說(shuō)它可以同時(shí)產(chǎn)生64路PCle 5.0的x1(帶寬),那需求量就極大了?!?/p>

全球PCle Switch三大供應(yīng)商,博通、微芯、祥碩科技三家,共占有全球約58%的份額。據(jù)博通官網(wǎng)介紹,博通是PCI Express交換領(lǐng)域的領(lǐng)導(dǎo)者,出貨量超過(guò)10 億個(gè),公司正通過(guò)行業(yè)領(lǐng)先的交換機(jī)系列以及新的重定時(shí)器解決方案推動(dòng)數(shù)據(jù)中心連接的發(fā)展。

如果要替換這顆博通芯片,目前可替代的微芯也面臨缺貨,而國(guó)產(chǎn)即便有替代,國(guó)外主板廠(chǎng)一般也不采用。據(jù)悉,美國(guó)一家新公司xconn-technology剛推出樣品,明年這時(shí)候就有對(duì)應(yīng)產(chǎn)品上市。

隨著PCIe 在服務(wù)器中應(yīng)用越來(lái)越廣泛,PCIe Switch 的市場(chǎng)需求也被帶動(dòng)起來(lái)。根據(jù)QYResearch的統(tǒng)計(jì)及預(yù)測(cè),2021年全球 PCIe 芯片市場(chǎng)銷(xiāo)售額達(dá)到了 7.9 億美元,預(yù)計(jì)2028年將達(dá)到 18 億美元,年復(fù)合增長(zhǎng)率(CAGR)為 11.9%。

我們知道,除了蘋(píng)果,英偉達(dá)、博通和AMD最近乘著AI熱潮都在臺(tái)積電積極投片生產(chǎn)。

這波博通PCIe Switch熱,與英偉達(dá)用于AI服務(wù)器的GPU缺貨邏輯基本一致,那就是尚未實(shí)現(xiàn)大規(guī)模出貨,近期才追加擴(kuò)產(chǎn),一段時(shí)間內(nèi)面臨供應(yīng)不足。

博通也是受益于AI時(shí)代來(lái)臨的芯片大廠(chǎng)之一,除了與蘋(píng)果持續(xù)合作外,博通還陸續(xù)獲得了谷歌、Meta 等大廠(chǎng)的高級(jí) ASIC 芯片訂單。博通作為通信巨頭,這些訂單估計(jì)包括了PCIe Switch在內(nèi)的不少通信相關(guān)AI芯片。

博通FY23Q2財(cái)報(bào)顯示,博通目前AI營(yíng)收占半導(dǎo)體營(yíng)收約15%,預(yù)計(jì)FY24提升至25%;與其他芯片廠(chǎng)商相比,博通在2-4月的單季營(yíng)收同比增長(zhǎng)了 8%,芯片業(yè)務(wù)表現(xiàn)超出市場(chǎng)預(yù)期。

博通還表示,AI相關(guān)部分產(chǎn)品從生產(chǎn)到交付需要超過(guò)6個(gè)月。博通CEO認(rèn)為,未來(lái)傳統(tǒng)計(jì)算與AI計(jì)算會(huì)齊頭并進(jìn),AI增長(zhǎng)更快,傳統(tǒng)計(jì)算不會(huì)消亡,未來(lái)增長(zhǎng)一半來(lái)自傳統(tǒng)業(yè)務(wù),一半來(lái)自AI。

結(jié) 語(yǔ)

據(jù)報(bào)道,AI服務(wù)器將大幅推升服務(wù)器平均出貨單價(jià)(ASP)由8500至9000美元上漲到1萬(wàn)美元以上,AI服務(wù)器主要集中在今年第四季大量出貨。

AI訓(xùn)練的龐大數(shù)據(jù),需要在各芯片之間高速無(wú)擁塞互聯(lián)。英偉達(dá)自己的NVLink、NVSwitch市場(chǎng)規(guī)模有限,而傳統(tǒng)CPU生態(tài)中的PCIe接口芯片及其他高速互聯(lián)芯片市場(chǎng)相對(duì)開(kāi)放,PCIe Switch作為數(shù)據(jù)中心低功耗、高性能解決方案的核心一環(huán),有望迎來(lái)高增長(zhǎng)。根據(jù)Transparency市場(chǎng)調(diào)研機(jī)構(gòu)數(shù)據(jù),2019-2027年CAGR約15%,2027年全球PCIe Switch市場(chǎng)規(guī)?;?qū)⑦_(dá)到92億美元。

除了PCle Switch,AI服務(wù)器需求帶動(dòng)服務(wù)器產(chǎn)業(yè)鏈上各環(huán)節(jié)價(jià)值增長(zhǎng),業(yè)內(nèi)人士測(cè)算,相較普通雙路服務(wù)器,AI服務(wù)器核心器件單機(jī)價(jià)值量提升倍數(shù)由高到低依次為GPU(24x)、DRAM(5.3x)、板內(nèi)互聯(lián)接口芯片(3.3x)、電源管理(3x)、散熱(3x)、PCB(2.4x)、網(wǎng)卡(2.2x)和SSD(2x)。

普通和AI服務(wù)器價(jià)值量拆解及對(duì)比、AI服務(wù)器不同出貨量假設(shè)下各環(huán)節(jié)的市場(chǎng)規(guī)模測(cè)算,來(lái)源:IDC,英偉達(dá),中金公司研究部

AI需求強(qiáng)勁,但需要看清的是,AI不足以撐起整個(gè)半導(dǎo)體行業(yè)的增長(zhǎng),近期晶圓代工廠(chǎng)們降價(jià)、熱停機(jī)動(dòng)作亮起警示燈,目前半導(dǎo)體行業(yè)仍處于消費(fèi)電子需求低迷陰影之下,復(fù)蘇緩慢。

以博通為代表的高端AI芯片市場(chǎng),同樣是個(gè)玩家有限的小池子,它的稀缺與漲價(jià)反映一段時(shí)間內(nèi)高端AI芯片供不應(yīng)求,對(duì)于芯片市場(chǎng)多數(shù)從業(yè)者來(lái)說(shuō),行情尚在緩慢復(fù)蘇,可遇而不可求,唯有繼續(xù)積極開(kāi)發(fā)新產(chǎn)品、新技術(shù)、新客戶(hù),找到新的增長(zhǎng)點(diǎn),才是以不變應(yīng)萬(wàn)變的關(guān)鍵所在。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠(chǎng)商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
STM32F405RGT6V 1 STMicroelectronics High-performance foundation line, Arm Cortex-M4 core with DSP and FPU, 1 Mbyte of Flash memory, 168 MHz CPU, ART Accelerator

ECAD模型

下載ECAD模型
$12.92 查看
MK70FN1M0VMJ12 1 NXP Semiconductors FLASH, 120MHz, RISC MICROCONTROLLER, PBGA256

ECAD模型

下載ECAD模型
$15.43 查看
MCP23S17T-E/SS 1 Microchip Technology Inc 16 I/O, PIA-GENERAL PURPOSE, PDSO28, 5.30 MM, PLASTIC, SSOP-28

ECAD模型

下載ECAD模型
$1.74 查看
博通

博通

Broadcom Corporation (博通公司)(Nasdaq:BRCM)是全球領(lǐng)先的有線(xiàn)和無(wú)線(xiàn)通信 半導(dǎo)體公司。其產(chǎn)品實(shí)現(xiàn)向家庭、 辦公室和移動(dòng)環(huán)境以及在這些環(huán)境中傳遞語(yǔ)音、 數(shù)據(jù)和多媒體。 Broadcom 為計(jì)算和網(wǎng)絡(luò)設(shè)備、數(shù)字娛樂(lè)和寬帶 接入產(chǎn)品以及移動(dòng)設(shè)備的制造商提供業(yè)界最廣泛的、 一流的片上系統(tǒng)和軟件解決方案。

Broadcom Corporation (博通公司)(Nasdaq:BRCM)是全球領(lǐng)先的有線(xiàn)和無(wú)線(xiàn)通信 半導(dǎo)體公司。其產(chǎn)品實(shí)現(xiàn)向家庭、 辦公室和移動(dòng)環(huán)境以及在這些環(huán)境中傳遞語(yǔ)音、 數(shù)據(jù)和多媒體。 Broadcom 為計(jì)算和網(wǎng)絡(luò)設(shè)備、數(shù)字娛樂(lè)和寬帶 接入產(chǎn)品以及移動(dòng)設(shè)備的制造商提供業(yè)界最廣泛的、 一流的片上系統(tǒng)和軟件解決方案。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

芯片電子元器件IC半導(dǎo)體分銷(xiāo)教科書(shū)式必讀公眾號(hào)【芯世相】;國(guó)產(chǎn)替換,供應(yīng)鏈配套,借展出海,方案買(mǎi)賣(mài)就找芯片超人。