加入星計劃,您可以享受以下權益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • AI服務器成長力道強勁
    • 上游:AI芯片是核心
    • 中游:AI服務器的兩類“玩家”
    • 下游:CSP為高階AI服務器主要需求動能
  • 推薦器件
  • 相關推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

潑天的富貴,輪到AI服務器了嗎?

06/15 10:25
812
閱讀需 15 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

蘋果在近日召開的2024年WWDC全球開發(fā)者大會上開啟了AI新篇章:推出全新AI系統(tǒng)Apple Intelligence,宣布與OpenAI的合作,ChatGPT集成將于今年晚些時候登陸iOS、iPadOS和macOS。

蘋果大舉發(fā)力AI之后,股價應聲上漲。美東時間6月11日,蘋果股價收盤漲幅超過7%,是蘋果自2022年11月以來最大的單日漲幅,市值接近3.2萬億美元。截至美東時間6月13日收盤,蘋果最新市值達到3.29萬億美元,暫時反超微軟成為全球最大市值公司。此前,媒體已經(jīng)報道受益于AI浪潮,英偉達、AMD等相關公司股價一路狂飆。AI“潑天的富貴”正到處揮灑,各行各業(yè)皆有望從中受益,AI服務器也將是其中之一。

AI服務器成長力道強勁

服務器作為一種高性能計算機,通常用于處理網(wǎng)絡上的數(shù)據(jù)、存儲和傳輸數(shù)據(jù),并提供各種網(wǎng)絡服務,以滿足客戶端請求與需要,在網(wǎng)絡環(huán)境中扮演十分重要的角色。

AI服務器即專門為人工智能應用設計的高性能計算平臺,與傳統(tǒng)服務器相比,在用途上AI服務器專門設計用于處理大規(guī)模數(shù)據(jù)和提供高效計算能力以支持人工智能應用;在硬件配置上,二者皆采用高速網(wǎng)絡技術與硬件加速技術,與傳統(tǒng)服務器以CPU為主要算力的形式不同,AI服務器需要滿足AI算法下高性能計算、高存儲需求,因而配置更加復雜,除了CPU之外,通常還需配備GPU、FPGA、ASIC等加速芯片,以滿足AI算法訓練和推理過程中對高吞吐量計算的需求,此外也需要配備大內(nèi)存、高速SSD等存儲產(chǎn)品。

當前AI服務器多屬于“機架服務器”,一個機柜放多個服務器機箱,規(guī)格以U為代稱,比如1U、2U、4U、7U等,AI需求越高,數(shù)字則越大。

AI大模型有訓練(Training)、推理(Inference)兩大應用場景需求,以此劃分,AI服務器主要有訓練型與推理型兩類,其中訓練型AI服務器算力要求極高,多數(shù)部署于云端,推理型AI服務器則對算力無太高需求,主要部署于云端與邊緣側。

在AI需求推動下,AI服務器成長力道強勁。全球市場研究機構TrendForce集邦咨詢預估,2024年全球AI服務器(包含AI Training及AI Inference)將超過160萬臺,年成長率達40%。

此外今年3月,科技大廠戴爾大幅上調(diào)了AI服務器全球TAM(潛在市場規(guī)模),該公司預計2025年與2027年全球AI服務器TAM分別達到1050億美元與1520億美元,高于此前預期的910億美元與1240億美元。

產(chǎn)業(yè)鏈環(huán)節(jié)中,AI服務器上游為服務器零部件,包括芯片、PCB、電源、散熱模組等;中游為整合組裝,將芯片組裝進服務器硬件中,并增加必要的網(wǎng)絡、存儲設備,形成完整的AI服務器解決方案;下游應用領域則包括互聯(lián)網(wǎng)廠商、運營商、通信、政府、制造業(yè)、教育、金融與醫(yī)療等。

圖片來源:全球半導體觀察制圖

上游:AI芯片是核心

AI芯片是構建AI服務器的核心硬件產(chǎn)品,用于處理大量數(shù)據(jù)并運行復雜計算任務。

圖片來源:全球半導體觀察

按照技術分類,AI服務器芯片主要包含GPU、FPGA、ASIC三類,GPU是目前AI服務器中常用的算力芯片,占比超過70%,常用于訓練以及推理階段,代表廠商包括英偉達、AMD、英特爾等國外企業(yè),以及海光信息、寒武紀、燧原科技、摩爾線程、壁仞科技等國內(nèi)公司。

值得一提的是,AI服務器中,GPU往往搭配HBM(高帶寬內(nèi)存)使用,HBM是專為GPU設計的內(nèi)存技術,通過多個DRAM芯片層疊在一起,并使用高密度的硅通孔(TSV)和微凸點(microbumps)技術,實現(xiàn)與GPU的垂直互連。HBM目前呈現(xiàn)三星、SK海力士美光“三分天下”的格局,已經(jīng)發(fā)展至第五代(HBM3E),第六代HBM4預計有望最早于2025年亮相。

GPU之后是ASIC,為全定制芯片,在AI服務器市場中占比約兩成,同樣用于訓練與推理階段,代表廠商包括谷歌、亞馬遜AWS等。

最后是FPGA,為半定制芯片,產(chǎn)品主要用于推理階段,目前占比較低(個位數(shù)占比),代表廠商包括AMD、賽靈思、英特爾等。

除了上述廠商外,前文提及的蘋果也對AI服務器芯片有所布局。今年5月媒體報道蘋果已經(jīng)開始構建基于M2 Ultra芯片的AI服務器,富士康正在組裝相關產(chǎn)品,同時蘋果還計劃在2025年年底推出采用M4芯片的AI服務器。另有報道指出蘋果正為數(shù)據(jù)中心自研AI服務器芯片,該芯片項目代號為ACDC(Apple Chips in Data Center),專注于推理模型。或許在不遠的將來,蘋果AI服務器芯片產(chǎn)品將會正式公開。

中游:AI服務器的兩類“玩家”

服務器領域中游環(huán)節(jié)“玩家”眾多,大致可以分為ODM廠商與品牌服務器廠商。服務器相關組件準備完成后,將由ODM廠商進行組裝代工,再送至品牌服務器廠商處銷售,或者是ODM廠商直接與下游(通常是云端業(yè)者)客戶合作,根據(jù)客戶的需求進行定制化生產(chǎn),不通過品牌服務器廠商。AI服務器同樣以此分為兩類:

圖片來源:全球半導體觀察

其中,ODM代表廠商包括廣達、工業(yè)富聯(lián)、英業(yè)達、緯創(chuàng)、Supermicro等,它們與云端業(yè)者、上游芯片廠商深度綁定,有著穩(wěn)定的供應鏈、快速交付能力、較低售價等優(yōu)勢,基于低成本和快速部署服務器以建設大規(guī)模數(shù)據(jù)中心的考量,近年云端業(yè)者與ODM廠商合作日益頻繁。

受惠于云端數(shù)據(jù)中心領域訂單帶動,今年各大ODM廠商AI服務器出貨強勁。工業(yè)富聯(lián)今年已斬獲Oracle訂單,同時也承接部分AWS ASIC訂單。5月15日工業(yè)富聯(lián)一季度業(yè)績說明會上,該公司表示2024年預計AI貢獻占公司云計算總收入40%,公司AI服務器將達全球市場份額的40%;英業(yè)達除了北美客戶之外,今年字節(jié)跳動需求強勁,有望共同推動AI服務器出貨成長;廣達訂單主要來自北美云端客戶如Microsoft及AWS,5月廣達透露預期本季起AI服務器出貨將溫和成長,下半年AI服務器可望迎來出貨爆發(fā)期,除了云端客戶外,也已拿到其他新客戶訂單;Supermicro每季出貨HGX等高端AI服務器的主要客戶群,以歐美二線數(shù)據(jù)中心為主,如CoreWeave與Tesla等,另外也開始積極拓展蘋果、Meta等客戶AI訂單。

品牌廠商方面,AI服務器代表廠商包括戴爾、HPE、甲骨文、惠普、聯(lián)想、浪潮信息、新華三、寧暢、超聚變等,它們擁有服務器方案自主設計能力與核心技術專利,此前委托ODM代工廠商生產(chǎn)標準化服務器產(chǎn)品,再對外進行銷售,不過隨著云計算、AI需求不斷增加,部分品牌服務器廠商也逐漸開始生產(chǎn)定制化產(chǎn)品,與ODM廠商形成了既合作又競爭的關系。如浪潮信息近年提出了JDM(Joint Design Manufacture,聯(lián)合開發(fā)模式),不再單純把產(chǎn)品賣給客戶,而是與客戶合作,讓客戶參與到服務器產(chǎn)品的設計、研發(fā)和交付的流程中,從而提升供應鏈效率,滿足客戶需求。

在AI浪潮推動下,品牌AI服務器同樣呈現(xiàn)供不應求狀況。戴爾截至2024年5月3日的2025財年第一季度財報顯示,AI服務器助力,戴爾實現(xiàn)了自2022年以來的首次營收同比增長,超出市場預期。其中,服務器與網(wǎng)絡營收同比增長42%至55億美元,創(chuàng)下歷史新高。戴爾表示,公司AI優(yōu)化服務器的出貨量較上季度環(huán)比增超100%至17億美元,此類服務器的訂單積壓量環(huán)比躍升30%至38億美元。

HPE財報顯示,受益于AI服務器需求旺盛,截至今年4月30日的第二財季HPE凈營收72.0億美元,同比增長3.3%,超過業(yè)界預期,服務器業(yè)務創(chuàng)造了38.7億美元的收入,AI服務器系統(tǒng)銷售額超過了9億美元,比第一財季翻了一番。HPE透露,AI服務器系統(tǒng)目前的積壓訂單達到31億美元。

紫光股份總裁王竑弢今年4月對外表示,AI服務器訂單在今年一季度有很大提升,產(chǎn)能滿足市場需求不存在問題;公司有各類型GPU服務器滿足AI場景應用,特別針對GPT場景而優(yōu)化的GPU服務器已經(jīng)完成開發(fā),將在今年二季度全面上市。資料顯示,紫光股份旗下新華三擁有多款AI服務器產(chǎn)品,可滿足不同場景對智能算力的需求。

5月,聯(lián)想集團公布的最新財報顯示,服務器業(yè)務迎來拐點,ISG基礎設施業(yè)務集團重拾增長動能,營收同比增速達15.1%,創(chuàng)下同期歷史新高。同時,聯(lián)想表示ISG仍然會堅定開發(fā)全面的人工智能產(chǎn)品組合。此前3月,聯(lián)想首臺搭載最新國產(chǎn)AI算力芯片的聯(lián)想問天WA5480 G3成功投產(chǎn)下線并交付。

業(yè)界認為,受益于臺積電CoWoS產(chǎn)能持續(xù)擴張以及NVIDIA AI GPU出貨量的穩(wěn)定,AI服務器芯片供應有望于2024年第二季度緩解,屆時AI服務器整機出貨量將陸續(xù)提升。

下游:CSP為高階AI服務器主要需求動能

AI服務器的下游客戶廣泛,包括互聯(lián)網(wǎng)企業(yè)、云計算企業(yè)、數(shù)據(jù)中心服務商、以及政府、金融、醫(yī)療等行業(yè),當前AI服務器市場需求(尤其是高階AI服務器)動能主要來自大型CSP(云端服務業(yè)者),包括微軟、谷歌、亞馬遜AWS、Meta、CoreWeave等美系廠商,以及BBAT(字節(jié)跳動、百度、阿里巴巴、騰訊)等國內(nèi)廠商。

集邦咨詢調(diào)查顯示,以2024年全球主要CSP對高階AI 服務器(包含搭載NVIDIA、AMD或其他高端ASIC芯片等)需求量觀察,預估美系四大CSP業(yè)者包括Microsoft、Google、AWS、Meta各家占全球需求比重分別達20.2%、16.6%、16%及10.8%,合計將超過6成,居于全球領先位置。

國內(nèi)高階AI服務器需求占比目前較低,不過在政策支持、國產(chǎn)化趨勢以及國內(nèi)科技廠商持續(xù)布局大規(guī)模數(shù)據(jù)中心環(huán)境下,國內(nèi)高階AI服務器需求將持續(xù)上升,AI服務器產(chǎn)業(yè)有望持續(xù)受益。

隨著消費電子市場逐漸復蘇,加上ChatGPT、Sora等大模型“火爆出圈”,此前步入下行周期的半導體行業(yè)逐漸釋放利好信號。不過與此同時,半導體行業(yè)還面臨高性能AI芯片供應短缺、晶圓代工成熟制程產(chǎn)能過剩等隱憂,行業(yè)發(fā)展仍有一定不確定性。

展望未來,半導體與存儲器產(chǎn)業(yè)將何去何從?產(chǎn)業(yè)發(fā)展又將迎來哪些技術變革?又將有哪些機遇與挑戰(zhàn)?2024年6月19日(周三),TrendForce集邦咨詢將在深圳舉辦“2024集邦咨詢半導體產(chǎn)業(yè)高層論壇(TrendForce Semiconductor Seminar 2024)”。

屆時,集邦咨詢多位重量級資深分析師將針對AI浪潮推動下,聚焦晶圓代工、DRAM、NAND Flash等關鍵領域發(fā)表主題演講。敬請期待!

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風險等級 參考價格 更多信息
ATMEGA64A-AUR 1 Microchip Technology Inc IC MCU 8BIT 64KB FLASH 64TQFP

ECAD模型

下載ECAD模型
$5.79 查看
ATXMEGA256A3U-MH 1 Microchip Technology Inc IC MCU 8BIT 256KB FLASH 64QFN

ECAD模型

下載ECAD模型
$5.86 查看
ATMEGA88PA-MMHR 1 Atmel Corporation RISC Microcontroller, 8-Bit, FLASH, AVR RISC CPU, 20MHz, CMOS, PQCC28, 4 X 4 MM, 1 MM HEIGHT, 0.45 MM PITCH, GREEN, PLASTIC, VQFN-28
$2.43 查看

相關推薦

電子產(chǎn)業(yè)圖譜

DRAMeXchange(全球半導體觀察)官方訂閱號,專注于半導體晶圓代工、IC設計、IC封測、DRAM、NAND Flash、SSD、移動裝置、PC相關零組件等產(chǎn)業(yè),致力于提供半導體產(chǎn)業(yè)資訊、行情報價、市場趨勢、產(chǎn)業(yè)數(shù)據(jù)、研究報告等。