國產(chǎn)DPU創(chuàng)業(yè)怎么樣了？產(chǎn)業(yè)落地三大場景可期

隨著數(shù)據(jù)量激增和應(yīng)用場景走向多樣化，算力需求不斷攀升，算力瓶頸成為業(yè)界關(guān)注的焦點(diǎn)問題。

如果將數(shù)據(jù)中心中的每一臺(tái)服務(wù)器比喻為一座“城市”，在每個(gè)城市“人口”不斷膨脹，城市間交互需求爆炸式增長的背景下，以CPU為網(wǎng)絡(luò)核心的數(shù)據(jù)處理方式，面臨的挑戰(zhàn)越來越大。DPU因此而名聲大噪，對(duì)比傳統(tǒng)網(wǎng)卡，它相當(dāng)于幫助數(shù)據(jù)中心完成了從“鄉(xiāng)間公路”到“高速鐵路”的轉(zhuǎn)變。DPU所提供的高吞吐、低時(shí)延、基礎(chǔ)設(shè)施卸載能力，能夠幫助數(shù)據(jù)中心規(guī)避“信息孤島”問題，被認(rèn)為是數(shù)據(jù)中心繼CPU、GPU之后的第三顆芯片，成為未來算力底座中的重要支柱之一。

DPU的發(fā)展?jié)摿?，讓國?nèi)創(chuàng)業(yè)者們看到了新的方向和希望。短短幾年，至少十幾家創(chuàng)業(yè)公司已經(jīng)站上了這個(gè)賽道。不過，大芯片創(chuàng)業(yè)并非易事，產(chǎn)品從雛形到流片，再到落地、以及在客戶項(xiàng)目中批量應(yīng)用，要經(jīng)過技術(shù)與時(shí)間的雙重考驗(yàn)，并且，所面向的都是被國外科技巨頭（比如英特爾、英偉達(dá)、AMD、Marvell等）長期占據(jù)主導(dǎo)優(yōu)勢(shì)的應(yīng)用領(lǐng)域。可以說，每一關(guān)，都是生死線。

那么，經(jīng)歷了幾年“花團(tuán)錦簇”的發(fā)展熱潮，DPU創(chuàng)業(yè)究竟怎么樣了？是“亂花漸入迷人眼”，還是目標(biāo)日益清晰？能否經(jīng)得起實(shí)際場景的拷問？日前，中科馭數(shù)在以“DPU構(gòu)建高性能云算力底座”為主題的線上技術(shù)開放日上，用實(shí)際的產(chǎn)品和解決方案交上了一份階段性答卷。

三大場景、五大方案，國產(chǎn)DPU交短期答卷

中科馭數(shù)作為國內(nèi)專注于DPU研發(fā)設(shè)計(jì)的公司，基于自研KPU架構(gòu)已經(jīng)進(jìn)行了三代DPU芯片研發(fā)。在當(dāng)天的技術(shù)開放日上，中科馭數(shù)集中展現(xiàn)了在低時(shí)延網(wǎng)絡(luò)、云原生網(wǎng)絡(luò)及智算中心網(wǎng)絡(luò)三大關(guān)鍵場景下的技術(shù)成果，并深入介紹了五大核心DPU解決方案：高性能云原生底座方案、基于DPU的極速服務(wù)網(wǎng)格方案、高性能國產(chǎn)密碼卸載方案、RDMA加速并行文件系統(tǒng)解決方案、以及證券期貨交易信創(chuàng)低時(shí)延網(wǎng)絡(luò)解決方案等。

“DPU是解決數(shù)據(jù)中心計(jì)算效率低、資源利用率低、安全性低‘三低’問題的關(guān)鍵技術(shù)”，中科馭數(shù)創(chuàng)始人、CEO鄢貴海表示，“我們正不遺余力地參與并積極推動(dòng)算力基礎(chǔ)設(shè)施的發(fā)展，DPU技術(shù)開放日既是對(duì)DPU技術(shù)應(yīng)用的典型方案展示，也是DPU技術(shù)在重要細(xì)分場景走向成熟的標(biāo)志?！?/p>

場景一：金融信創(chuàng)需求大爆發(fā)，低時(shí)延網(wǎng)絡(luò)DPU實(shí)現(xiàn)自主可控

金融信創(chuàng)正在向核心系統(tǒng)深入，對(duì)網(wǎng)絡(luò)時(shí)延的要求日益嚴(yán)格，已提升至微秒或納秒級(jí)別。長久以來，低時(shí)延網(wǎng)絡(luò)設(shè)備市場被國外廠商如Solarflare和Mellanox所主導(dǎo)，且傳統(tǒng)的軟件加速方案已達(dá)到瓶頸，而中科馭數(shù)通過自主研發(fā)的低時(shí)延網(wǎng)絡(luò)DPU卡，成功構(gòu)建了超低時(shí)延網(wǎng)絡(luò)，實(shí)現(xiàn)了金融交易核心鏈路的自主可控和性能優(yōu)化。

中科馭數(shù)的DPU產(chǎn)品已在金融證券行業(yè)內(nèi)實(shí)現(xiàn)廣泛部署，助力超過30家金融機(jī)構(gòu)完成核心系統(tǒng)的升級(jí)替換，確保了金融系統(tǒng)的穩(wěn)定運(yùn)行。某頭部證券機(jī)構(gòu)通過部署中科馭數(shù)的DPU卡，有效解決了交易系統(tǒng)的低時(shí)延問題，滿足了高頻交易對(duì)時(shí)延的嚴(yán)格要求。

申萬宏源聯(lián)合中科馭數(shù)及其他軟硬件廠商成立的低時(shí)延實(shí)驗(yàn)室，對(duì)全信創(chuàng)方案進(jìn)行了權(quán)威測(cè)試，驗(yàn)證了其在基礎(chǔ)設(shè)施和業(yè)務(wù)系統(tǒng)方面的技術(shù)性能，測(cè)試結(jié)果表明全信創(chuàng)環(huán)境下的性能提升顯著。

隨著信創(chuàng)云成為證券機(jī)構(gòu)上云的重要選擇，東方證券也與中科馭數(shù)合作，引入低時(shí)延技術(shù)，致力于打造一云多芯、超低時(shí)延的信創(chuàng)云平臺(tái)，實(shí)現(xiàn)資源的統(tǒng)一調(diào)度和上層應(yīng)用的廣泛兼容，推動(dòng)信創(chuàng)產(chǎn)業(yè)的發(fā)展。

此外，銀行業(yè)也正面臨著移動(dòng)互聯(lián)網(wǎng)和金融科技創(chuàng)新帶來的業(yè)務(wù)請(qǐng)求和數(shù)據(jù)處理量的激增，以及業(yè)務(wù)種類的爆發(fā)式增長，這對(duì)IT基礎(chǔ)設(shè)施、特別是云化設(shè)施提出了更高的要求。中科馭數(shù)的DPU解決方案可以匹配各類高性能網(wǎng)絡(luò)、存儲(chǔ)底座，以及虛擬機(jī)、容器與裸金屬服務(wù)器的共池管理、VPC網(wǎng)絡(luò)等需求，幫助銀行數(shù)據(jù)中心高效、安全、平穩(wěn)地過渡到云原生業(yè)務(wù)架構(gòu)。

場景二：通用智算中心，DPU支持海量數(shù)據(jù)交互

隨著AI大模型的爆炸式發(fā)展，高性能計(jì)算從傳統(tǒng)的工程科學(xué)應(yīng)用計(jì)算逐漸向大數(shù)據(jù)計(jì)算、機(jī)器學(xué)習(xí)和AI運(yùn)算等新興數(shù)據(jù)密集型計(jì)算發(fā)展。這種趨勢(shì)不僅對(duì)算力提出了新要求，也對(duì)異構(gòu)算力并行計(jì)算的數(shù)據(jù)同步效率提出了要求，更高的數(shù)據(jù)吞吐、更低的時(shí)延和更高效的存儲(chǔ)I/O能力，是有效提升算力的基礎(chǔ)。

在智算、超算領(lǐng)域，并行文件系統(tǒng)是一種常見且重要的分布式文件存儲(chǔ)系統(tǒng)。中科馭數(shù)推出的RDMA加速并行文件系統(tǒng)解決方案，采用RDMA網(wǎng)絡(luò)DPU卡代替?zhèn)鹘y(tǒng)網(wǎng)卡，將RDMA網(wǎng)絡(luò)應(yīng)用與并行文件系統(tǒng)，突破了傳統(tǒng)的存算速度瓶頸，解鎖了存算之間的高速通道，以更少的計(jì)算資源提供更強(qiáng)的網(wǎng)絡(luò)傳輸能力。

基于RDMA協(xié)議零拷貝、內(nèi)核旁路的特性，該解決方案大幅降低了并行文件系統(tǒng)在數(shù)據(jù)讀寫，數(shù)據(jù)傳輸的時(shí)延，提高帶寬利用率，進(jìn)而提升并行文件系統(tǒng)整體性能。同時(shí)利用DPU卡上的VirtIO-FS技術(shù)，將業(yè)務(wù)側(cè)host的虛擬化功能卸載至DPU，能夠減少host端CPU的算力損耗。

場景三：向云原生進(jìn)發(fā)，DPU解決多項(xiàng)行業(yè)痛點(diǎn)

隨著云計(jì)算的普及和深入發(fā)展，云原生技術(shù)日益出現(xiàn)在各個(gè)行業(yè)的應(yīng)用中，成為了IT領(lǐng)域備受矚目的焦點(diǎn)。云原生技術(shù)趨勢(shì)不僅指明了云計(jì)算和應(yīng)用程序開發(fā)的未來方向，更是推動(dòng)IT發(fā)展的重要力量。

不過，云原生技術(shù)雖然為企業(yè)IT帶來了前所未有的靈活性和便捷性，但同時(shí)也增加了資源消耗并且影響到業(yè)務(wù)性能。此外，許多企業(yè)的業(yè)務(wù)系統(tǒng)仍然運(yùn)行在物理機(jī)和虛擬機(jī)上，如何實(shí)現(xiàn)異構(gòu)資源的共池調(diào)度與管理也是一大挑戰(zhàn)。

針對(duì)云原生業(yè)務(wù)的復(fù)雜性和高時(shí)效性需求，中科馭數(shù)的云原生解決方案，采用了以 DPU 為核心的軟硬件一體化架構(gòu)，可以提供統(tǒng)一管理、高度可擴(kuò)展、高性能、安全的 IaaS、PaaS 層云服務(wù)。硬件層支持“一云多芯”和“3U一體”的異構(gòu)算力架構(gòu)，可以同時(shí)滿足通用場景和信創(chuàng)業(yè)務(wù)需求。自研DPU卡作為該方案的核心，支持網(wǎng)絡(luò)、存儲(chǔ)、安全、管理等負(fù)載的卸載，可以充分釋放服務(wù)器的硬件資源。該方案能夠?qū)W(wǎng)絡(luò)和存儲(chǔ)的性能運(yùn)行加速，提升業(yè)務(wù)效率，同時(shí)實(shí)現(xiàn)全域零信任安全方案，降低業(yè)務(wù)風(fēng)險(xiǎn)。另外，中科馭數(shù)還自研了云原生異構(gòu)管理平臺(tái)，并基于Kubernetes 的插件機(jī)制開發(fā)了大量擴(kuò)展，實(shí)現(xiàn)容器、虛擬機(jī)、裸金屬異構(gòu)資源的統(tǒng)一調(diào)度和運(yùn)維管理，可大幅提升運(yùn)維管理效率。

三U一體——未來算力底座的核心

中科馭數(shù)高級(jí)副總裁張宇回顧了算力底座自2000年以來的發(fā)展變遷。從最初以“服務(wù)器”為中心的本地部署階段，到2010年左右進(jìn)入以“虛擬機(jī)”為中心的云計(jì)算階段，再到2020年，行業(yè)進(jìn)入云原生化階段。這時(shí)行業(yè)已經(jīng)基本形成了統(tǒng)一的云原生基礎(chǔ)設(shè)施，且硬件資源完全池化、“云原生應(yīng)用”成為了中心。在這個(gè)部署階段，需要統(tǒng)一基礎(chǔ)設(shè)施管理、對(duì)業(yè)務(wù)系統(tǒng)進(jìn)行更好的部署、并且需要按需調(diào)度集群資源。

“在此背景下，云計(jì)算對(duì)異構(gòu)算力需求越來越高。DPU作為圍繞I/O核心的算力，對(duì)IaaS、PaaS等云服務(wù)層起到關(guān)鍵作用，其中，IaaS層包括計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)和安全資源，PaaS層則圍繞云原生和AI相關(guān)優(yōu)化平臺(tái)處理加速。隨著云計(jì)算算力和帶寬的提升，以及對(duì)安全要求的增加，DPU的應(yīng)用場景和使用頻率不斷增長，早已從概念走向?qū)嶋H應(yīng)用，被國內(nèi)外頂級(jí)云服務(wù)商廣泛采用”，張宇指出。

特別是在智能計(jì)算方面，除了整個(gè)云底座的支持外，張宇認(rèn)為還要關(guān)注大模型訓(xùn)練和推理的主流基礎(chǔ)設(shè)施架構(gòu)。因?yàn)?a class="article-link" target="_blank" href="/e/1592241.html">人工智能的發(fā)展不僅依賴GPU，還涉及大數(shù)據(jù)的收集、處理和轉(zhuǎn)化為模型因子全過程中對(duì)算力集群的強(qiáng)需求。

這一流程包括模型的訓(xùn)練和部署，服務(wù)于各行各業(yè)，涉及計(jì)算系統(tǒng)的各個(gè)方面。而人工智能快速迭代的關(guān)鍵，就在于通用云網(wǎng)絡(luò)和高性能網(wǎng)絡(luò)，這些網(wǎng)絡(luò)支持大量數(shù)據(jù)交互，需要確保訓(xùn)練時(shí)的低時(shí)延和大帶寬需求，以及推理時(shí)的高吞吐量，同時(shí)要降低算力成本。

因此從基礎(chǔ)設(shè)施的角度，需要CPU、GPU、DPU“三U一體”架構(gòu)的核心支持，對(duì)大數(shù)據(jù)、數(shù)據(jù)庫和大數(shù)據(jù)集群的處理提供支持。此外，容器化、云原生以及存儲(chǔ)技術(shù)等，都對(duì)算力基礎(chǔ)設(shè)施提出了更高要求。

“DPU在構(gòu)建高性能存儲(chǔ)、高速網(wǎng)絡(luò)和分布式文件系統(tǒng)等場景中發(fā)揮著核心作用，隨著智能計(jì)算的快速發(fā)展，各大云服務(wù)提供商正迅速推進(jìn)相關(guān)技術(shù)”，張宇表示，“中科馭數(shù)的目標(biāo)是與國際水平接軌，不僅在時(shí)延上達(dá)到業(yè)界領(lǐng)先水平，還將在帶寬和算力成本上尋求超越?！?/p>

除了智算領(lǐng)域，DPU在低時(shí)延網(wǎng)絡(luò)、高性能計(jì)算、以及邊緣計(jì)算等場景中的應(yīng)用正在全面展開。而隨著5G的推廣，低時(shí)延應(yīng)用場景將得到進(jìn)一步拓展，這也是DPU落地的關(guān)鍵領(lǐng)域，包括金融、工業(yè)互聯(lián)網(wǎng)等領(lǐng)域。

DPU產(chǎn)業(yè)有望迎來飛躍

放眼英特爾、英偉達(dá)、AMD等業(yè)界巨頭，已經(jīng)形成了完整的 “三U一體”算力平臺(tái)。而在我國當(dāng)前產(chǎn)業(yè)環(huán)境下，獨(dú)立發(fā)展的DPU企業(yè)該如何面對(duì)競爭，并制定長遠(yuǎn)的發(fā)展策略？

張宇認(rèn)為，國內(nèi)的DPU企業(yè)需要更具市場適應(yīng)性。長遠(yuǎn)來看，國內(nèi)DPU和CPU企業(yè)需要在不同架構(gòu)體系下與GPU和AI芯片協(xié)同發(fā)展，甚至可能需要與國際廠商如英偉達(dá)GPU等實(shí)現(xiàn)兼容。預(yù)計(jì)未來五年左右，這種多元化的合作模式不會(huì)有大的變化。

針對(duì)具體應(yīng)用方向，低時(shí)延場景向云端遷移是近兩年值得期待的大趨勢(shì)。張宇透露，中科馭數(shù)相關(guān)的技術(shù)布局已在標(biāo)桿客戶落地，除了金融行業(yè)，低時(shí)延應(yīng)用正在向工業(yè)、智能交通等領(lǐng)域擴(kuò)展。除了裸金屬級(jí)別的部署，云環(huán)境中對(duì)低時(shí)延性能的要求也在增加，中科馭數(shù)目前正在與云服務(wù)商進(jìn)行深度適配、兼容性測(cè)試和性能調(diào)優(yōu)等工作。

根據(jù)2023年《中國數(shù)據(jù)中心產(chǎn)業(yè)發(fā)展白皮書》，預(yù)計(jì)至 2025 年“十四五”規(guī)劃期末，擬實(shí)現(xiàn)數(shù)據(jù)中心機(jī)架規(guī)模增長至1400萬架，規(guī)?？偭糠瓋杀?，總增量投資約7000億元。按服務(wù)器規(guī)模預(yù)計(jì)，未來幾年云與數(shù)據(jù)中心領(lǐng)域每年國內(nèi)服務(wù)器出貨量將維持在500萬臺(tái)左右，其中DPU滲透率在10%左右，單臺(tái)服務(wù)器可以配置一塊到多塊DPU板卡，預(yù)計(jì)每年DPU需求量將在100萬片左右。

結(jié)合上述需求和趨勢(shì)，張宇認(rèn)為，“隨著國家對(duì)算力投入的增加，以及智能計(jì)算對(duì)產(chǎn)業(yè)的大力驅(qū)動(dòng)，DPU發(fā)展前景令人期待，這預(yù)示著行業(yè)將迎來質(zhì)的飛躍?！?/p>