加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • ?01、信創(chuàng)和AI算力,筑基智算賽道
    • ?02、AI原生場(chǎng)景賦能,“致廣大而盡精微”
    • ?03、AI行業(yè)加速,聚合生態(tài)創(chuàng)新
    • ?04、結(jié)語(yǔ)
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

AI狂想時(shí)代,誰(shuí)能打造加速引擎?

05/13 09:50
1910
閱讀需 13 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

作者:九林

如果說(shuō)2023年是生成式AI的元年,那么2024年是生成式AI加速普及的一年。

ChatGPT發(fā)布后,人工智能由此進(jìn)入大模型時(shí)代。生成式AI的出現(xiàn)開(kāi)始推動(dòng)人類進(jìn)入數(shù)字文明階段。

AI將企業(yè)卷入變革的浪潮,正如神州數(shù)碼董事長(zhǎng)郭為所說(shuō):“未來(lái)十年所有企業(yè)的企業(yè)戰(zhàn)略將充分利用三個(gè)原生(云原生、數(shù)字原生、AI原生)來(lái)顛覆自己的業(yè)務(wù),神州數(shù)碼也愿意成為企業(yè)的數(shù)字化轉(zhuǎn)型全生命周期的合作伙伴,讓我們一起共同來(lái)迎接這樣一個(gè)偉大的時(shí)代。”

?01、信創(chuàng)和AI算力,筑基智算賽道

信創(chuàng),即信息技術(shù)應(yīng)用創(chuàng)新產(chǎn)業(yè),是數(shù)據(jù)安全、網(wǎng)絡(luò)安全的基礎(chǔ),也是新基建的重要組成部分,是各行各業(yè)數(shù)字化升級(jí)的“發(fā)動(dòng)機(jī)”。立足信創(chuàng),神州數(shù)碼持續(xù)打造“神州鯤泰”自主品牌,形成了覆蓋“數(shù)據(jù)計(jì)算、終端產(chǎn)品、數(shù)據(jù)網(wǎng)絡(luò)”的三大產(chǎn)品線,在“國(guó)產(chǎn)化算力+智算”持續(xù)布局。

過(guò)去一年,神州鯤泰問(wèn)學(xué)一體機(jī)、KunTaiA924訓(xùn)推一體AI服務(wù)器等一系列自主品牌產(chǎn)品相繼面世;神州鯤泰14款服務(wù)器通過(guò)“通用服務(wù)器政府采購(gòu)需求標(biāo)準(zhǔn)專題測(cè)評(píng)”。

隨著AI的發(fā)展,大模型所使用的算力數(shù)據(jù)量和參數(shù)規(guī)模呈現(xiàn)“指數(shù)級(jí)”增長(zhǎng),這帶來(lái)智能算力需求的爆發(fā)式增加。IDC預(yù)計(jì),國(guó)內(nèi)2026年智能算力規(guī)模有望進(jìn)入每秒十萬(wàn)億億次浮點(diǎn)計(jì)算級(jí)別,2021-2026年智能算力規(guī)模年復(fù)合增長(zhǎng)率有望達(dá)52.3%。

神州數(shù)碼副總裁、神州數(shù)碼信創(chuàng)控股董事長(zhǎng)韓智敏也表示:“當(dāng)前AI發(fā)展面臨巨大的算力挑戰(zhàn),除了互聯(lián)網(wǎng)廠商有大的模型和大的算力集群,千行百業(yè)也需要大量的算力基礎(chǔ)?!倍幌盗谢A(chǔ)設(shè)施層的問(wèn)題和挑戰(zhàn)也隨之涌現(xiàn)。

一方面是智算集群間以及集群內(nèi)部的復(fù)雜兼容及利用率問(wèn)題。目前,國(guó)內(nèi)企業(yè)處于復(fù)雜的商業(yè)環(huán)境,異構(gòu)的智算基礎(chǔ)設(shè)置已經(jīng)成為必然,但異構(gòu)的智算集群可以實(shí)現(xiàn)的模型浮點(diǎn)利用率還存在大量的提升空間。舉個(gè)例子,OpenAI在訓(xùn)練ChatGPT4時(shí),MFU的使用率只有在32%~36%之間。目前MFU利用率的平均的行業(yè)利用率是在30%~40%,提高到50%都極為困難。由此,神州鯤泰推出了HISO異構(gòu)智算調(diào)度運(yùn)營(yíng)平臺(tái)和全新的異構(gòu)智算融合加速平臺(tái)HICA。

異構(gòu)智算調(diào)度運(yùn)營(yíng)平臺(tái)(HISO),基于100%云原生技術(shù),整合GPU硬分片和虛擬分片技術(shù),實(shí)現(xiàn)了GPU資源的池化和跨集群調(diào)度能力,提升GPU服務(wù)器集群的資源使用率。

異構(gòu)智算融合加速平臺(tái)(HICA),具有一云多芯特性,支持華為昇騰、英偉達(dá)、英特爾等國(guó)內(nèi)外主流AI芯片,可實(shí)現(xiàn)訓(xùn)練推理任務(wù)在不同品牌、不同型號(hào)芯片組成的智算集群的混合訓(xùn)練推理,預(yù)計(jì)降低20%GPU閑置算力。

另一方面,生成式AI模型的參數(shù)量大,算力和高能耗成為需要解決的核心問(wèn)題。為解決在智算中心算力需求,神州鯤泰打造了多款A(yù)I服務(wù)器,覆蓋從訓(xùn)練到推理的全部場(chǎng)景。

針對(duì)智算中心的高能耗痛點(diǎn),神州鯤泰還推出了一體化交付的全液冷整機(jī)柜,現(xiàn)場(chǎng)無(wú)需安裝調(diào)試,效率提升10倍;最大單柜功率60kW+,一柜頂傳統(tǒng)4~8柜,1.5倍于國(guó)內(nèi)友商的能效比。

在過(guò)去的一年中,智算中心的建設(shè)在中國(guó)大地上可謂如火如荼。

政策層面,“新質(zhì)生產(chǎn)力”首次寫入政府工作報(bào)告,“人工智能+”行動(dòng)全面開(kāi)啟,還有國(guó)資委召開(kāi)的“AI賦能產(chǎn)業(yè)煥新”專題會(huì),提出:加快建設(shè)一批智能算力中心。

2023年全國(guó)新建智算中心項(xiàng)目超過(guò)100個(gè),預(yù)算基本是上億。從國(guó)家啟動(dòng)“東數(shù)西算”工程開(kāi)始,傳統(tǒng)IT企業(yè)、云廠商和電信運(yùn)營(yíng)商就已經(jīng)在緊鑼密鼓地布局智算中心。

神州數(shù)碼在智算中心深度參與,神州鯤泰作為“鯤鵬+昇騰”計(jì)算產(chǎn)業(yè)生態(tài)重要參與者之一,為智算中心提供專業(yè)基礎(chǔ)設(shè)施硬件目前,神州數(shù)碼、神州控股已經(jīng)參與了包括長(zhǎng)春新區(qū)智算中心、沈陽(yáng)人工智能計(jì)算中心、廈門鯤鵬超算中心、香港特區(qū)政府大模型智算中心等的建設(shè)和運(yùn)營(yíng)。

值得一提的是,今年一月份,為了給生態(tài)伙伴提供最基礎(chǔ)的技術(shù)環(huán)境,聚焦AI算力,神州數(shù)碼深圳人工智能計(jì)算中心項(xiàng)目已經(jīng)正式啟動(dòng)。預(yù)計(jì)不久之后,這個(gè)搭載神州問(wèn)學(xué)平臺(tái)的智算中心就會(huì)正式向市場(chǎng)、向生態(tài)提供算力、模型、應(yīng)用、解決方案相關(guān)的服務(wù)。

從財(cái)報(bào)來(lái)看,AI的入局和產(chǎn)品的合力,使得神州數(shù)碼信創(chuàng)業(yè)務(wù)實(shí)現(xiàn)爆發(fā)性增長(zhǎng)。2023年度神州數(shù)碼信創(chuàng)業(yè)務(wù)整體營(yíng)收突破34億,連續(xù)三年保持高增長(zhǎng)。2024年一季度神州鯤泰AI算力相關(guān)業(yè)務(wù)單季營(yíng)收規(guī)模接近去年全年。

?02、AI原生場(chǎng)景賦能,“致廣大而盡精微”

過(guò)去一年,AI大模型技術(shù)飛速發(fā)展,如何用好大模型實(shí)現(xiàn)降本增效、推動(dòng)業(yè)務(wù)增長(zhǎng),成為了企業(yè)真正關(guān)心的問(wèn)題。在這個(gè)“百模大戰(zhàn)”甚至“千模大戰(zhàn)”的時(shí)代,如何將技術(shù)轉(zhuǎn)化成真正的生產(chǎn)力?答案是以生態(tài)之力破局,加速生成式AI在企業(yè)級(jí)的落地。

2023年,神州問(wèn)學(xué)的推出,成為助力企業(yè)AI落地的新范式。

目前,神州問(wèn)學(xué)已對(duì)接了數(shù)十家主流大模型,并發(fā)布慧閱讀、慧解析、慧問(wèn)答等敏捷應(yīng)用,成功幫助醫(yī)藥、零售等行業(yè)客戶落地生成式AI應(yīng)用場(chǎng)景。

在數(shù)云原力大會(huì)2024上,神州問(wèn)學(xué)新版本發(fā)布,包含Agent工程、企業(yè)知識(shí)治理、模型訓(xùn)練與管理三大模塊。

以神州問(wèn)學(xué)新版本的三大功能板塊作為切入點(diǎn),神州數(shù)碼有自己的考量:現(xiàn)實(shí)中,企業(yè)有大量需要AI賦能的場(chǎng)景。對(duì)于企業(yè)來(lái)說(shuō),AI場(chǎng)景如何與每個(gè)業(yè)務(wù)更好地結(jié)合,如何讓內(nèi)部IT部門和業(yè)務(wù)部門更智能化地配合,僅靠簡(jiǎn)單的開(kāi)發(fā)者平臺(tái)是無(wú)法滿足的。因此,企業(yè)需要已經(jīng)被實(shí)踐證明過(guò)的高效完備的AI應(yīng)用開(kāi)發(fā)框架和規(guī)范;需要工具的持續(xù)地沉淀;知識(shí)治理的持續(xù)地深化,更需要若干個(gè)企業(yè)模型的持續(xù)地訓(xùn)練和優(yōu)化。同時(shí)為了保證數(shù)據(jù)安全,這都需要在企業(yè)的私域中完成。這么來(lái)看,企業(yè)的AI原生創(chuàng)新需要一個(gè)平臺(tái)持續(xù)地賦能和加速。神州問(wèn)學(xué)就是這樣的AI原生應(yīng)用賦能平臺(tái),三大板塊全部覆蓋企業(yè)客戶需求。

神州數(shù)碼副總裁、CTO李剛表示:“當(dāng)‘致廣大’已被充分表達(dá),神州數(shù)碼反而愈加堅(jiān)定以客戶為中心的‘盡精微’,才是真正實(shí)現(xiàn)AI著陸的當(dāng)務(wù)之急。”關(guān)于大家關(guān)心的企業(yè)數(shù)據(jù)安全方面,李剛在接受采訪時(shí)分享到,神州問(wèn)學(xué)通過(guò)三個(gè)方面進(jìn)行企業(yè)數(shù)據(jù)安全的保護(hù)。

第一,神州問(wèn)學(xué)部署的場(chǎng)景是私有化場(chǎng)景。完全在客戶可控的環(huán)境中進(jìn)行部署。第二,神州問(wèn)學(xué)納管的大模型,無(wú)論是商業(yè)化模型還是開(kāi)源模型,經(jīng)過(guò)微調(diào)和預(yù)訓(xùn)練后,同樣是本地化部署。這兩點(diǎn)上來(lái)說(shuō),就能夠保證基本的安全性問(wèn)題。第三,是一個(gè)企業(yè)內(nèi)部如何保證知識(shí)的可訪問(wèn)性。企業(yè)會(huì)因?yàn)椴块T不同,而需要多個(gè)模型,比如人力模型、財(cái)務(wù)模型等,關(guān)鍵在于給企業(yè)數(shù)據(jù)一個(gè)“安全圍欄”。李剛說(shuō)到:“確保模型回答它能夠回答的正確問(wèn)題,而不回答不相關(guān)的問(wèn)題?!痹侬B加這一點(diǎn),將進(jìn)一步確保企業(yè)數(shù)據(jù)安全問(wèn)題。

另外,我們還看到神州數(shù)碼充分發(fā)揮在“算力+AI”軟硬件產(chǎn)品的自主創(chuàng)新能力,打造了神州鯤泰問(wèn)學(xué)一體機(jī)?;贙unTaiA924訓(xùn)推一體AI服務(wù)器,可以訓(xùn)練推理無(wú)縫銜接、同時(shí)進(jìn)行,大大提高大模型訓(xùn)練效率。預(yù)裝神州數(shù)碼自研生成式AI產(chǎn)品“神州問(wèn)學(xué)”,開(kāi)機(jī)即用,極簡(jiǎn)部署、免調(diào)優(yōu),快速部署企業(yè)專屬AI大模型。

?03、AI行業(yè)加速,聚合生態(tài)創(chuàng)新

Chat GPT的橫空出世,讓生成式AI一夜之間出現(xiàn)在每個(gè)人的眼前。

對(duì)于這種革命性的技術(shù),每個(gè)企業(yè)都處于焦慮的狀態(tài),希望能從中找到自己創(chuàng)新的機(jī)遇。但在探索AI的過(guò)程中,還有很多現(xiàn)實(shí)的問(wèn)題在眼前。

需求側(cè),很多企業(yè)面對(duì)生成式人工智能的迭代速度無(wú)所適從,他們需要在投入和回報(bào)之間找到平衡;供給側(cè),在商業(yè)化落地的過(guò)程中,單個(gè)企業(yè)有時(shí)候很難把整個(gè)AI技術(shù)棧跟客戶的行業(yè)需求結(jié)合起來(lái);人才上,人才的短缺是人工智能持續(xù)發(fā)展的現(xiàn)在最大的阻礙。

神州數(shù)碼聯(lián)席董事長(zhǎng)、首席執(zhí)行官王冰峰說(shuō)到:“在這些現(xiàn)實(shí)的問(wèn)題以及我們所看到人工智能未來(lái)巨大的顛覆潛力下,沒(méi)有一個(gè)企業(yè)可以獨(dú)自前行。我們相信生態(tài)會(huì)變成AI落地加速中必不可少而且是強(qiáng)有力的驅(qū)動(dòng)力?!?/p>

神州數(shù)碼希望打造一個(gè)新型的生態(tài)伙伴關(guān)系,從三個(gè)方面入手:一個(gè)是解決方案和技術(shù)的生態(tài),第二個(gè)是人才的生態(tài),第三個(gè)是市場(chǎng)的生態(tài)。

解決方案和技術(shù)的生態(tài)上,技術(shù)本身不會(huì)顛覆任何事情,只有能夠落地的解決方案、應(yīng)用和商業(yè)模式才會(huì)。AI原生應(yīng)用能夠解決過(guò)去解決不了的問(wèn)題。只有大家一起努力,產(chǎn)生足夠多的AI原生的解決方案和應(yīng)用,才能形成一個(gè)健康的生態(tài)環(huán)境。讓人工智能從企業(yè)工具演進(jìn)為企業(yè)獨(dú)立的智能體Agent。

在人才生態(tài)上,神州數(shù)碼將聯(lián)合國(guó)際國(guó)內(nèi)最領(lǐng)先的人工智能的企業(yè),共同建設(shè)人工智能的培訓(xùn)和認(rèn)證的體系。目前,神州數(shù)碼是中國(guó)大陸地區(qū)唯一的一家同時(shí)擁有Microsoft、AWS、Google三家官方授權(quán)的培訓(xùn)合作伙伴,同時(shí)也是阿里云、騰訊、天翼、華為、華為云、Oricle、IBM等數(shù)十家先進(jìn)企業(yè)的培訓(xùn)合作伙伴。

在市場(chǎng)生態(tài)上,依托神州數(shù)碼2035實(shí)驗(yàn)室以及人工智能研究院,不斷地強(qiáng)化神州數(shù)碼跟高校、院所、機(jī)構(gòu)、協(xié)會(huì)之間的合作,來(lái)共同推進(jìn)人工智能在技術(shù)生態(tài)上長(zhǎng)期發(fā)力。

?04、結(jié)語(yǔ)

生成式AI已狂奔了近一年時(shí)間后,至今仍持續(xù)高熱。

AGI時(shí)代號(hào)角已經(jīng)吹響,神州數(shù)碼將聚焦三件事:AI原生場(chǎng)景賦能、多云異構(gòu)綠色智算、國(guó)際化AI生態(tài)創(chuàng)新。

在數(shù)云原力大會(huì)開(kāi)幕式的最后,神州數(shù)碼董事長(zhǎng)郭為(數(shù)字分身)說(shuō)到:“我們提出了神州數(shù)碼在AGI時(shí)代的新主張:以客戶為中心的AI著陸加速引擎。數(shù)云融合也再上一個(gè)新的臺(tái)階,升級(jí)為AI驅(qū)動(dòng)的數(shù)云融合。神州數(shù)碼將在“人工智能+”的中國(guó)式現(xiàn)代化道路上持續(xù)探索,以國(guó)際創(chuàng)新中心這個(gè)未來(lái)AI新地標(biāo)為載體,開(kāi)展更多的互動(dòng)和協(xié)同創(chuàng)新?!?/p>

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
MCF52258CAG66 1 Freescale Semiconductor MCF522XX 32-bit MCU, ColdFire V2 core, 512KB Flash, 66MHz, QFP 144
$12.68 查看
ATMEGA328P-AU 1 Atmel Corporation RISC Microcontroller, 8-Bit, FLASH, AVR RISC CPU, 20MHz, CMOS, PQFP32, 7 X 7 MM, 1 MM HEIGHT, 0.80 MM PITCH, GREEN, PLASTIC, MS-026ABA, TQFP-32

ECAD模型

下載ECAD模型
$2.05 查看
AT91SAM7X512B-AUR 1 Microchip Technology Inc IC MCU 32BIT 512KB FLASH 100LQFP

ECAD模型

下載ECAD模型
$15.51 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

公眾號(hào):半導(dǎo)體產(chǎn)業(yè)縱橫。立足產(chǎn)業(yè)視角,提供及時(shí)、專業(yè)、深度的前沿洞見(jiàn)、技術(shù)速遞、趨勢(shì)解析,鏈接產(chǎn)業(yè)資源,構(gòu)建IC生態(tài)圈,賦能中國(guó)半導(dǎo)體產(chǎn)業(yè),我們一直在路上。