加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專(zhuān)業(yè)用戶(hù)
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • 何為智能算力?
    • 大模型引發(fā)算力缺口,中國(guó)需要多少智能算力?
    • 30余座城市搶建智算中心
    • AI服務(wù)器是智算中心建設(shè)中最關(guān)鍵的設(shè)備
    • 如何讓智算中心真正用起來(lái)?
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

國(guó)家隊(duì)入場(chǎng),為智算中心再添一把火

03/01 09:20
2250
閱讀需 17 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

作者:豐寧

日前,國(guó)務(wù)院國(guó)資委召開(kāi)的AI人工智能專(zhuān)題推進(jìn)會(huì)火爆全網(wǎng),受到了行業(yè)的廣泛關(guān)注。

會(huì)議要求,中央企業(yè)要主動(dòng)擁抱人工智能帶來(lái)的深刻變革,把加快發(fā)展新一代人工智能擺在更加突出的位置。會(huì)議強(qiáng)調(diào)“要夯實(shí)發(fā)展基礎(chǔ)底座,把主要資源集中投入到最需要、最有優(yōu)勢(shì)的領(lǐng)域,加快建設(shè)一批智能算力中心”;“強(qiáng)化需求牽引,加快重點(diǎn)行業(yè)賦能,構(gòu)建一批產(chǎn)業(yè)多模態(tài)優(yōu)質(zhì)數(shù)據(jù)集,打造從基礎(chǔ)設(shè)施、算法工具、智能平臺(tái)到解決方案的大模型賦能產(chǎn)業(yè)生態(tài)”。會(huì)上有10家中央企業(yè)簽訂倡議書(shū),表示將主動(dòng)向社會(huì)開(kāi)放人工智能應(yīng)用場(chǎng)景。作為國(guó)民經(jīng)濟(jì)的重要支柱,央企在人工智能領(lǐng)域的布局和發(fā)展更是備受關(guān)注。央企加速布局人工智能,將為相關(guān)行業(yè)帶來(lái)新的發(fā)展機(jī)遇,同時(shí)也體現(xiàn)了國(guó)家對(duì)于人工智能的高度重視和大勢(shì)所趨。

隨著全球AI技術(shù)的快速發(fā)展,智能算力已成為推動(dòng)經(jīng)濟(jì)增長(zhǎng)和社會(huì)進(jìn)步的關(guān)鍵要素。中國(guó)作為全球最大的經(jīng)濟(jì)體之一,正積極應(yīng)對(duì)這一技術(shù)變革,加強(qiáng)智能算力的研發(fā)和應(yīng)用,以提升國(guó)家競(jìng)爭(zhēng)力。

在深入了解中國(guó)在智算市場(chǎng)的布局之前,先來(lái)了解一下什么是“智能算力”?我們?nèi)粘I钪卸加心男r(shí)候會(huì)接觸到智能算力?

何為智能算力?

按照《中國(guó)算力白皮書(shū)(2022年)》的定義,算力主要分為四部分:通用算力、智能算力、超算算力、邊緣算力。通用算力以CPU芯片輸出的計(jì)算能力為主;智能算力以GPU、FPGA、AI芯片等輸出的人工智能計(jì)算能力為主;超算算力以超級(jí)計(jì)算機(jī)輸出的計(jì)算能力為主;邊緣算力主要是以就近為用戶(hù)提供實(shí)時(shí)計(jì)算能力為主,是前三種的組合。

單從概念上看似乎覺(jué)得有一些遙遠(yuǎn),但實(shí)際上,智能算力已經(jīng)深入到了我們生活的方方面面。倘若說(shuō)起春節(jié)檔電影中的特效、渲染和人臉識(shí)別,或者是我們?nèi)粘J褂玫闹悄芸头?、語(yǔ)音翻譯等應(yīng)用,這些背后都離不開(kāi)智能算力的支持。

如果說(shuō)人工智能是創(chuàng)新的加速器,那么智算中心則可以為各類(lèi)技術(shù)創(chuàng)新提供支撐。

大模型引發(fā)算力缺口,中國(guó)需要多少智能算力?

2023年眾多大模型產(chǎn)品發(fā)布,基于大模型的AIGC技術(shù)在文本生成、知識(shí)回答、圖像生成、邏輯推理等方面表現(xiàn)出遠(yuǎn)超預(yù)期的效果,吸引了大量用戶(hù)與市場(chǎng)關(guān)注。

據(jù)不完全統(tǒng)計(jì),截至2023年10月,中國(guó)大模型創(chuàng)新主體共254家,分布于20余個(gè)省市/地區(qū),其中,北京122家,數(shù)量居全國(guó)首位。截至2024年1月,備案上線大模型38款,占全國(guó)近一半。百度發(fā)布文心一言4.0,用戶(hù)規(guī)模過(guò)億,日均調(diào)用量達(dá)千萬(wàn)次;智譜AI研發(fā)第四代基座大模型GLM4,開(kāi)源版全球下載量超1000萬(wàn)次,是目前開(kāi)源影響力最高的國(guó)產(chǎn)大模型;百川智能發(fā)布實(shí)現(xiàn)全球最長(zhǎng)上下文窗口的大模型Baichuan2,開(kāi)源版僅四個(gè)月全球下載量超600萬(wàn)次;中科院自動(dòng)化所發(fā)布全球首個(gè)千億參數(shù)多模態(tài)大模型紫東太初2.0。在深度學(xué)習(xí)框架方面,百度飛槳知名度與使用率均處國(guó)內(nèi)第一梯隊(duì),國(guó)內(nèi)市占率近36%,截至2023年12月底,已凝聚1070萬(wàn)開(kāi)發(fā)者,服務(wù)23.5萬(wàn)家企事業(yè)單位。

在實(shí)際應(yīng)用中,利用AI技術(shù)自動(dòng)生成內(nèi)容的生產(chǎn)方式打造的“數(shù)字人”效果媲美真人水平;人工智能預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)給基礎(chǔ)研究帶來(lái)全新的研究手段;人工智能驅(qū)動(dòng)的聊天機(jī)器人能夠?qū)W習(xí)和理解人類(lèi)的語(yǔ)言并與人類(lèi)進(jìn)行對(duì)話(huà);華為云開(kāi)發(fā)的“盤(pán)古氣象大模型”在預(yù)報(bào)臺(tái)風(fēng)軌跡和登陸時(shí)間方面大顯身手……

看得見(jiàn)的AIGC蓬勃發(fā)展背后,是看不見(jiàn)的智能算力在支撐。大模型爆發(fā)掀起了新一輪AI熱潮,也改變了智能算力需求與格局。

工業(yè)和信息化部、中央網(wǎng)信辦、教育部、國(guó)家衛(wèi)生健康委、中國(guó)人民銀行、國(guó)務(wù)院國(guó)資委等六部門(mén)聯(lián)合印發(fā)的《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》提出到2025年,中國(guó)算力規(guī)模超過(guò)300EFLOPS,智能算力占比達(dá)到35%。

說(shuō)到這里可能會(huì)有人發(fā)問(wèn):FLOPS是什么?300EFLOPS是什么水平?

FLOPS是算力的單位,衡量算力資源每秒進(jìn)行浮點(diǎn)運(yùn)算的次數(shù),是Floating-point operations per second的英文縮寫(xiě)。它常被用來(lái)估算電腦的執(zhí)行效能,尤其是在使用到大量浮點(diǎn)運(yùn)算的科學(xué)計(jì)算領(lǐng)域中,比如機(jī)器視覺(jué)相關(guān)圖像處理的訓(xùn)練與推理。

FLOPS前面加上字母表示更大的算力單位:

一個(gè)MFLOPS(megaFLOPS)等于每秒一百萬(wàn)(=10^6)次的浮點(diǎn)運(yùn)算。

一個(gè)GFLOPS(gigaFLOPS)等于每秒十億(=10^9)次的浮點(diǎn)運(yùn)算。

一個(gè)TFLOPS(teraFLOPS)等于每秒一萬(wàn)億(=10^12)次的浮點(diǎn)運(yùn)算。

一個(gè)PFLOPS(petaFLOPS)等于每秒一千萬(wàn)億(=10^15)次的浮點(diǎn)運(yùn)算。

一個(gè)EFLOPS(exaFLOPS)等于每秒一百億億(=10^18)次的浮點(diǎn)運(yùn)算。

下面舉幾個(gè)例子方便了解:通過(guò)大量數(shù)據(jù)樣本進(jìn)行人工智能模型訓(xùn)練時(shí),根據(jù)數(shù)據(jù)規(guī)模、檢測(cè)效果、模型類(lèi)別的不同,訓(xùn)練一次的算力需求大概為2-19PFLOS不等;在人臉、語(yǔ)言識(shí)別的推理過(guò)程中,根據(jù)識(shí)別精度、并發(fā)數(shù)量等的不同,對(duì)算力的需求跨度可能從10GFLOPS-64TFLOPS,智能駕駛為完成環(huán)境感知、決策避障、自車(chē)定位等功能時(shí)的算力需求大概為8TFLOPS。

截至2023年6月底,全國(guó)在用數(shù)據(jù)中心機(jī)架總規(guī)模超過(guò)760萬(wàn)標(biāo)準(zhǔn)機(jī)架,算力總規(guī)模達(dá)到197EFLOPS,位居全球第二。

在大模型需求驅(qū)動(dòng)下,智算中心項(xiàng)目如雨后春筍般涌現(xiàn)。

30余座城市搶建智算中心

隨著下游算力需求的集中爆發(fā)和“東數(shù)西算”的推進(jìn),各級(jí)政府、運(yùn)營(yíng)商、互聯(lián)網(wǎng)企業(yè)紛紛開(kāi)啟智算中心建設(shè)計(jì)劃。據(jù)國(guó)家信息中心與相關(guān)部門(mén)聯(lián)合發(fā)布的《智能計(jì)算中心創(chuàng)新發(fā)展指南》顯示,目前全國(guó)正在建設(shè)或提出建設(shè)智算中心的城市已經(jīng)超過(guò)30個(gè),經(jīng)典案例包括京津冀大數(shù)據(jù)智算中心、長(zhǎng)沙5A級(jí)智能計(jì)算中心等。

智算中心建設(shè)的企業(yè)主體則包括三大電信運(yùn)營(yíng)商和部分互聯(lián)網(wǎng)企業(yè)。運(yùn)營(yíng)商推動(dòng)建設(shè)的智算中心具有一定公共服務(wù)屬性,成為政府主導(dǎo)的算力基礎(chǔ)設(shè)施建設(shè)的良好補(bǔ)充。以百度、阿里、騰訊為代表的互聯(lián)網(wǎng)企業(yè)也紛紛建設(shè)智算中心,以推動(dòng)自身業(yè)務(wù)發(fā)展、更好地推動(dòng)客戶(hù)人工智能場(chǎng)景落地。

前瞻結(jié)合至頂智庫(kù)統(tǒng)計(jì),截至2023年8月,中國(guó)已投入運(yùn)營(yíng)和在建的智算中心分布在北京、上海、南京、杭州等多個(gè)城市。從區(qū)域分布來(lái)看,中國(guó)智算中心集中于東部地區(qū)和中部地區(qū)。其中,東部地區(qū)智算中心數(shù)量達(dá)25個(gè),占比62.5%,排名第一,以京津冀和長(zhǎng)三角地區(qū)為主;中部地區(qū)占比17.5%,排名第二;西部和東北地區(qū)的智算中心數(shù)量占比分別為12.5%和7.5%。

值得注意的是,北京是發(fā)力智算中心的主要地區(qū)之一。北京在海淀、朝陽(yáng)、經(jīng)開(kāi)區(qū)、石景山、門(mén)頭溝、大興、豐臺(tái)等區(qū)均布局智算中心,目前已建成智能算力總規(guī)模約5000P。

近日,石景山區(qū)北重科技文化產(chǎn)業(yè)園的四跨廠房已開(kāi)啟火熱的改造施工,建成后初期將具備610P的算力,相當(dāng)于30萬(wàn)臺(tái)高性能電腦的計(jì)算能力,可供一個(gè)人工智能大模型在30秒內(nèi)完成對(duì)近1000萬(wàn)張圖片的學(xué)習(xí)和識(shí)別,預(yù)計(jì)今年10月即可建成投用。

剛剛開(kāi)年就動(dòng)作頻頻

新年伊始,各大運(yùn)營(yíng)商便積極行動(dòng)起來(lái),紛紛加強(qiáng)在智能計(jì)算中心領(lǐng)域的布局。

1月8日,中國(guó)移動(dòng)智算中心(武漢)在武漢未來(lái)科技城開(kāi)放運(yùn)營(yíng),已建成1500PFLOPS服務(wù)能力,到今年底計(jì)劃擴(kuò)容至6800PFLOPS,成為華中地區(qū)規(guī)模最大的智算中心。

1月22日,上海電信在上海點(diǎn)亮“大規(guī)模算力集群暨人工智能公共算力服務(wù)平臺(tái)”,計(jì)劃2024上半年在上海規(guī)劃建設(shè)到達(dá)15000卡,總算力超4500P,其中單池新建國(guó)產(chǎn)算力達(dá)萬(wàn)卡,預(yù)計(jì)成為國(guó)內(nèi)首個(gè)超大規(guī)模國(guó)產(chǎn)算力液冷集群。

1月30日,中國(guó)聯(lián)通人工智能創(chuàng)新中心成立儀式在京舉行。值得注意的是,2023年11月24日中國(guó)聯(lián)通長(zhǎng)三角(蕪湖)智算中心項(xiàng)目才正式開(kāi)工。

可以看到電信、移動(dòng)、聯(lián)通三大電信運(yùn)營(yíng)商正在聚力“東數(shù)西算”數(shù)據(jù)中心集群建設(shè),全力推進(jìn)各自相關(guān)項(xiàng)目,加快打造全國(guó)算力中心城市和智算中心,促進(jìn)數(shù)字經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)深度融合。

AI服務(wù)器是智算中心建設(shè)中最關(guān)鍵的設(shè)備

AI服務(wù)器是智算中心建設(shè)中投入比重最大、最為關(guān)鍵的設(shè)備。

據(jù)市場(chǎng)研究機(jī)構(gòu)IDC的最新報(bào)告顯示,從2022上半年到2023年上半年,中國(guó)AI服務(wù)器市場(chǎng)規(guī)模成長(zhǎng)了54%,其中GPU服務(wù)器依然是主導(dǎo)地位,占據(jù)92%的市場(chǎng)份額,達(dá)到30億美元。同時(shí)NPU、ASIC 和 FPGA等非GPU加速服務(wù)器以同比17%的增速占有了8%的市場(chǎng)份額,達(dá)到2億美元。

2023年上半年,從廠商銷(xiāo)售額角度看,浪潮、新華三、寧暢位居前三,占據(jù)了70%以上的市場(chǎng)份額;從服務(wù)器出貨臺(tái)數(shù)角度看,浪潮、坤前、寧暢位居前三名,占有近60%的市場(chǎng)份額。

AI服務(wù)器依賴(lài)高性能芯片供給。中國(guó)市場(chǎng)面臨的算力缺口給國(guó)內(nèi)的芯片發(fā)展帶來(lái)新的機(jī)遇。中國(guó)本土的AI芯片廠商發(fā)展正處于快速增長(zhǎng)的階段并取得了顯著的成就,吸引了大量的投資和關(guān)注。這些企業(yè)在AI芯片設(shè)計(jì)、算法優(yōu)化、生產(chǎn)制造等方面具備了一定的實(shí)力和競(jìng)爭(zhēng)優(yōu)勢(shì)。此外,中國(guó)政府的政策支持也起到了重要的推動(dòng)作用。2023年上半年,中國(guó)加速芯片的市場(chǎng)規(guī)模超過(guò)50萬(wàn)張。從技術(shù)角度看,GPU卡占有90%的市場(chǎng)份額;從品牌角度看,中國(guó)本土AI芯片品牌出貨超過(guò)5萬(wàn)張,占比整個(gè)市場(chǎng)10%左右的份額。

從國(guó)產(chǎn)AI服務(wù)器所需的AI加速芯片的供應(yīng)商來(lái)看,目前國(guó)內(nèi)阿里巴巴(含光系列)、百度(昆侖系列)、華為(昇騰系列)等云服務(wù)提供商都有自研的云端AI加速芯片。還有寒武紀(jì)(思元系列)、海光信息(深算系列)、燧原科技、天數(shù)智芯、壁仞科技、摩爾線程、沐曦等。此外,景嘉微、龍芯中科等也在研發(fā)云端AI加速芯片。

從2023年上半年的數(shù)據(jù)來(lái)看,中國(guó)AI服務(wù)器芯片國(guó)產(chǎn)化率較去年出現(xiàn)了下降,比例從去年的15%左右下降到10%左右。這主要是因?yàn)楦叨擞?xùn)練服務(wù)器的需求大幅增長(zhǎng),而國(guó)產(chǎn)芯片性能難以跟上。

為了進(jìn)一步提升國(guó)產(chǎn)AI服務(wù)器的性能,不僅需要芯片廠商在技術(shù)上持續(xù)創(chuàng)新,提高芯片的性能和穩(wěn)定性,還需要這些芯片廠商深入了解市場(chǎng)需求,開(kāi)發(fā)出更符合實(shí)際應(yīng)用場(chǎng)景的芯片產(chǎn)品。同時(shí),政府、企業(yè)和研究機(jī)構(gòu)也應(yīng)加大投入,支持國(guó)產(chǎn)芯片產(chǎn)業(yè)的發(fā)展,為其提供更多的研發(fā)資源和市場(chǎng)機(jī)會(huì)。

如何讓智算中心真正用起來(lái)?

智算中心建成后,如何令其在運(yùn)營(yíng)過(guò)程中發(fā)揮更大的作用,依舊是一個(gè)非常關(guān)鍵的問(wèn)題。

當(dāng)下智算中心已逐漸賦能區(qū)域產(chǎn)業(yè)集群發(fā)展,但值得注意的是,其在多元算力融合、上下游協(xié)同、建設(shè)應(yīng)用聯(lián)動(dòng)、能源消耗、使用價(jià)格等方面仍面臨諸多挑戰(zhàn)。

比如:通用算力和專(zhuān)用算力還有待融合。在自動(dòng)駕駛、智慧醫(yī)療、智慧城市等不同場(chǎng)景中,算力需求不同。單一化算力方案難以滿(mǎn)足多元算力需求,不能兼顧多產(chǎn)業(yè)和多領(lǐng)域。

算力、算法和數(shù)據(jù)協(xié)同不足。這些年來(lái)建設(shè)的智算中心,不同的芯片平臺(tái)、算法模型、數(shù)據(jù)庫(kù)應(yīng)用層面部分處于垂直一體化“孤島”狀態(tài),軟硬件兼容性問(wèn)題有待改進(jìn)。

投資建設(shè)運(yùn)營(yíng)有待聯(lián)動(dòng)。智算中心投資、建設(shè)和運(yùn)營(yíng)往往由不同主體負(fù)責(zé)。前期建設(shè)單位往往對(duì)建設(shè)后運(yùn)營(yíng)的模式、服務(wù)標(biāo)準(zhǔn)投入不足,出現(xiàn)了管頭不管尾、建設(shè)運(yùn)營(yíng)割裂的現(xiàn)象,影響客戶(hù)體驗(yàn)。

碳排放和能耗高。設(shè)備自身的能耗排放帶來(lái)非常大的挑戰(zhàn),比如OpenAI公司的超大規(guī)模預(yù)訓(xùn)練模型GPT-3訓(xùn)練所需的耗電量為19萬(wàn)千瓦時(shí),相當(dāng)于2021年人均用電量的228倍。

投資成本和應(yīng)用價(jià)格待規(guī)范。智算中心的投建成本較高,部分智算中心每 100P半精算力的投資成本高達(dá)5億-6億元,遠(yuǎn)遠(yuǎn)高出正常市場(chǎng)價(jià)格,同時(shí)使用成本也較高,比如據(jù)保守估計(jì)GPT-3大模型訓(xùn)練費(fèi)用超過(guò)1200萬(wàn)美元。

智算中心建設(shè)需要結(jié)合建設(shè)基礎(chǔ)、當(dāng)?shù)鼗騾^(qū)域產(chǎn)業(yè)特色,分類(lèi)引導(dǎo)施策,改建并行,發(fā)展與數(shù)字經(jīng)濟(jì)相適應(yīng)的智算中心;還需要選擇合理的建設(shè)和運(yùn)營(yíng)模式,實(shí)現(xiàn)長(zhǎng)效運(yùn)營(yíng)、促進(jìn)有序布局,保證智算中心所釋放的經(jīng)濟(jì)社會(huì)效益最大化。

如今中國(guó)智算中心產(chǎn)業(yè)發(fā)展正在克服1.0時(shí)代的挑戰(zhàn)進(jìn)入2.0時(shí)代,中國(guó)在智算中心的建設(shè)中,始終堅(jiān)持以算力融合、軟硬協(xié)同、建運(yùn)一體、能耗低碳、成本優(yōu)化、需求牽引、安全可信為基礎(chǔ),穩(wěn)步推進(jìn)智算中心的發(fā)展。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
AT89C51CC03UA-RDTUM 1 Atmel Corporation Microcontroller, 8-Bit, FLASH, 8051 CPU, 60MHz, CMOS, PQFP64, GREEN, VQFP-64

ECAD模型

下載ECAD模型
$9.5 查看
MK60DN512VMC10 1 Freescale Semiconductor Kinetis K 32-bit MCU, ARM Cortex-M4 core, 512KB Flash, 100MHz, Ethernet, MAPBGA 121
$10.69 查看
DSPIC30F6014A-30I/PT 1 Microchip Technology Inc 16-BIT, FLASH, 30 MHz, RISC MICROCONTROLLER, PQFP80, 12 X 12 MM, 1 MM HEIGHT, PLASTIC, MS-026, TQFP-80

ECAD模型

下載ECAD模型
$12 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

公眾號(hào):半導(dǎo)體產(chǎn)業(yè)縱橫。立足產(chǎn)業(yè)視角,提供及時(shí)、專(zhuān)業(yè)、深度的前沿洞見(jiàn)、技術(shù)速遞、趨勢(shì)解析,鏈接產(chǎn)業(yè)資源,構(gòu)建IC生態(tài)圈,賦能中國(guó)半導(dǎo)體產(chǎn)業(yè),我們一直在路上。