當(dāng)前,隨著數(shù)據(jù)中心流量的不斷增加,數(shù)據(jù)中心內(nèi)部的流量被稱為橫向流量,現(xiàn)在年負荷增長率在 25%以上,給數(shù)據(jù)中心帶來巨大的壓力,數(shù)據(jù)中心正在面臨聯(lián)網(wǎng)危機。隨著 SDN 在的增加,云服務(wù)器會在 CPU 和軟件中使用很多 SDN 功能。隨著網(wǎng)絡(luò)數(shù)據(jù)爆炸式增長,額外的非應(yīng)用級處理工作涌入云數(shù)據(jù)中心服務(wù)器,從而耗費更多 CPU 資源。對于云服務(wù)供應(yīng)商,需要這樣的計算能力支持其商業(yè)活動;對于公有云,需要把這些資源出售給客戶進行變現(xiàn);而邊緣的一級云服務(wù)提供商,例如:亞馬遜、微軟,在很多年以前就已經(jīng)意識到了這個問題,并從服務(wù)器上卸載聯(lián)網(wǎng)功能,把他們轉(zhuǎn)移到 SmartNIC 上來解決。
現(xiàn)在超過 80%的云服務(wù)供應(yīng)商只有傳統(tǒng)的 NIC,還沒有 SmartNIC,只能繼續(xù)在軟件上運行聯(lián)網(wǎng)功能。其實并不是這些云服務(wù)供應(yīng)商沒有遇到微軟和亞馬遜所面臨的問題,而是很難憑一己之力采用 SmartNIC。亞馬遜和微軟有雄厚的研發(fā)資源,能夠自行設(shè)計測試做大規(guī)模的部署,小型云服務(wù)供應(yīng)商,尤其是二級和三級云服務(wù)商沒有強大的研發(fā)團隊,也沒有專門的工程技術(shù)和能力部署自己的解決方案,所以他們更需要開箱即用的解決方案能夠符合即插即入的標準,無需自行開發(fā)就能夠?qū)崿F(xiàn)卸載的優(yōu)勢。
左:賽靈思大中華區(qū)銷售副總裁唐曉蕾(Maria Tang)
右:賽靈思數(shù)據(jù)中心事業(yè)部產(chǎn)品及平臺營銷副總裁 Donna Yasay
為了滿足云服務(wù)提供商、電信公司和私有云數(shù)據(jù)中心運營商的需求,賽靈思推出了業(yè)界首款“一體化 SmartNIC 平臺”— Alveo U25。賽靈思數(shù)據(jù)中心事業(yè)部產(chǎn)品及平臺營銷副總裁 Donna Yasay 向與非網(wǎng)介紹,“U25 將高度優(yōu)化的 SmartNIC 平臺與強大靈活的 FPGA 引擎相結(jié)合,實現(xiàn)了全可編程與一站式加速應(yīng)用。U25 為應(yīng)對業(yè)界最具挑戰(zhàn)性的需求與工作負載如 SDN、虛擬交換、NFV、NVMe-oF、電子交易、AI 推斷、視頻轉(zhuǎn)碼和數(shù)據(jù)分析等,提供了一個強大的一體化 SmartNIC 平臺?!?/p>
市場調(diào)研機構(gòu) Dell’Oro 集團預(yù)測,到 2024 年,SmartNIC 市場規(guī)模將超過 6 億美元,占據(jù)全球以太網(wǎng)適配器市場的 23%。隨著云服務(wù)提供商的縱向擴容,他們正在不斷增加 SmartNIC 的部署,以便為業(yè)務(wù)應(yīng)用釋放寶貴的 CPU 核,優(yōu)化服務(wù)器利用率。而電信服務(wù)提供商則是另一大具有強勁增長潛力的市場,他們正考慮將 SmartNIC 從核心網(wǎng)集成到邊緣網(wǎng),為 NFV 和 AI 推斷等應(yīng)用提供服務(wù)。
平臺化的技術(shù)優(yōu)勢
賽靈思為什么把 Alveo U25 稱為首個一體化的 SmartNIC 平臺?在采訪中,Donna 向與非網(wǎng)解釋,“其它方案只關(guān)注聯(lián)網(wǎng)或存儲,Alveo U25 融合了聯(lián)網(wǎng)、存儲,又加上了計算加速的功能。從這個角度來講,確實是首個在一張卡上實現(xiàn)計算、存儲和聯(lián)網(wǎng)卸載的加速平臺。U25 基于賽靈思的 FPGA 技術(shù),具有靈活性和全可編程性,可以支持 FPGA 用戶級編程特征。除此之外,賽靈思為客戶提供一個完全經(jīng)過測試并且驗證的比特文件,能夠上載到卡片的啟動,并且能夠符合標準的行業(yè) API。所以這張卡能夠無縫地卸載并且加速服務(wù)器的聯(lián)網(wǎng)、存儲、計算,而不需要做任何額外的編程。我們還基于 OVS 標準推出一站式的應(yīng)用來支持虛擬交換、卸載加速,未來推出更多一站式的應(yīng)用,比如 IPSEC、加密卸載、SSL 等?!?/p>
Alveo U25
賽靈思大中華區(qū)銷售副總裁唐曉蕾也表示,“對于板卡,用戶認為只是一個部件,但是賽靈思在數(shù)據(jù)中心不僅提供加速計算,未來越來越多向平臺方向發(fā)展,扮演越來越重要的角色。”
關(guān)于 Alveo U25 的技術(shù)優(yōu)勢,Donna 介紹,依托于賽靈思業(yè)界領(lǐng)先的 FPGA 技術(shù),Alveo U25 SmartNIC 平臺相比基于 SoC 的 NIC,可以提供更高的吞吐量和更強大的靈活應(yīng)變引擎,支持云架構(gòu)師快速為多種類型的功能與應(yīng)用提速。U25 SmartNIC 平臺支持“bump-in-the-wire (線纜內(nèi)的塊)”式無縫嵌入網(wǎng)絡(luò)、存儲和計算卸載及加速功能,可以避免不必要的數(shù)據(jù)傳輸和 CPU 處理,從而最大限度提高效率。而這也顯著降低了 CPU 的負擔(dān)并釋放更多資源,以運行更多應(yīng)用。嵌入式 ARM 處理器提供了獨特、關(guān)鍵的控制層處理功能,可以支持新興的裸機服務(wù)器用例?;拘?NIC 可提供超高吞吐量、小數(shù)據(jù)包性能與低時延。標準型全功能 NIC 解決方案與驅(qū)動程序采用獲得專利的 Onload 應(yīng)用加速軟件,時延降幅高達 80%,并且在云應(yīng)用中為基于傳輸控制協(xié)議( TCP )的服務(wù)器應(yīng)用提高了效率 --- 最高可達 400%。
U25 所提供的首個開箱即用型加速應(yīng)用是對 Open vSwitch ( OVS )卸載與加速的支持。這個即插即用型解決方案將從服務(wù)器卸載 90% 以上的 OVS 處理,從而將數(shù)據(jù)包吞吐量提升 5 倍以上。未來,賽靈思還計劃推出針對安全功能的一站式解決方案,這些安全功能諸如 IPSec、SSL/TLS、AES-256/128,同時還有分布式防火墻和 AI 推斷。
軟硬件平臺化協(xié)同助力客戶節(jié)約成本
用戶在服務(wù)器上把工作卸載下來并且高效的在一個 SmartNIC 平臺上去運行,這意味著完成同樣工作量時,所需要的服務(wù)器數(shù)量減少,硬件成本減少,大大降低云服務(wù)提供商的支出成本,從資本支出來看,采購設(shè)備的成本由于所需要服務(wù)器的數(shù)量減少而下降。另外,數(shù)據(jù)中心功耗也能夠降低,從而節(jié)約運營成本。另外,一站式的應(yīng)用幫助之前 80%無法使用 SmartNIC 的云服務(wù)供應(yīng)商,擴展 SmartNIC 的能力。
Alveo U25 SmartNIC 平臺在性能上兼具了 GPU 和聯(lián)網(wǎng)處理器兩者的優(yōu)勢,是否會帶來價格上升,給云服務(wù)商帶來更大成本壓力?Donna 認為,“這款產(chǎn)品能夠很好地融合聯(lián)網(wǎng)和計算,我覺得能夠為客戶創(chuàng)造很多價值,節(jié)約很多成本。如果用戶做擴展處理的話,他們可能需要用到很多微服務(wù)器,因此舊的服務(wù)器就沒有辦法用了,只能買新的。但是現(xiàn)在采用這個平臺,就可以保住現(xiàn)有的基礎(chǔ)設(shè)施,如果重新購買,花三分之一的成本就可以滿足很多新的要求。”
目前,數(shù)據(jù)中心的客戶也在轉(zhuǎn)型,從原來的平臺產(chǎn)品轉(zhuǎn)向結(jié)合了云服務(wù)、智能計算的服務(wù)型產(chǎn)品,這些轉(zhuǎn)型對基礎(chǔ)硬件架構(gòu)提出新的需求。Donna 表示,“現(xiàn)在數(shù)據(jù)中心確實有很多物聯(lián)網(wǎng)和計算應(yīng)用,正在改變整個行業(yè),為了跟上技術(shù)的需求,軟件編程也必須做到簡單易用,給客戶提供一站式平臺。以前,F(xiàn)PGA 編程確實非常困難,必須是專業(yè)人士才能夠做到代碼級編程工作,但是現(xiàn)在新的 FPGA 編程非常容易,而且和 CPU 的語言類似,所以整個行業(yè)的應(yīng)用都在發(fā)生轉(zhuǎn)型,盡可能滿足客戶的需求?!?/p>
去年,賽靈思發(fā)布了 Vitis 軟件平臺,Vitis 和 Alveo U25 將如何進行結(jié)合?唐曉蕾表示,“Vitis 統(tǒng)一軟件平臺和 U25 以及所有的 Alveo 卡可以有機結(jié)合。Alveo U25 SmartNIC 平臺實現(xiàn)了一站式加速應(yīng)用,可以助力非一級云數(shù)據(jù)中心運營商更加方便地部署 SmartNIC 并迅速收獲成效;U25 SmartNIC 還支持賽靈思和獨立軟件提供商 (ISV)提供的一站式應(yīng)用。其編程模型既支持 HLS 和 P4 等高級網(wǎng)絡(luò)編程抽象,也支持 Vitis 統(tǒng)一軟件平臺等計算加速框架,以便實現(xiàn)賽靈思和第三方所提供的加速應(yīng)用。我們之所以要做平臺化產(chǎn)品,是因為平臺化涉及很廣,無論 SaaS、FaaS 或 OS 支持要求都很高,我們希望通過 Vitis 軟件平臺加上 U25 硬件平臺相結(jié)合,讓企業(yè)在數(shù)據(jù)加速方面更快面向市場,解決以前 FPGA 的開發(fā)門檻問題。而在數(shù)據(jù)中心里,隨著應(yīng)用場景和新客戶的不斷擴展,我們必須要做硬件軟件協(xié)同,才能保障客戶群體的利益?!?/p>