大數(shù)據(jù)呈爆炸性增長,現(xiàn)代數(shù)據(jù)中心日益復(fù)雜,然而數(shù)據(jù)中心沒有模板,并不存在典型的數(shù)據(jù)中心,數(shù)據(jù)中心的工作負載是動態(tài)變化的,不存在單一的或某種類型的應(yīng)用能夠主導(dǎo)數(shù)據(jù)中心。因此現(xiàn)在的數(shù)據(jù)中心面臨不斷變化的要求和應(yīng)用,必須保持可擴展性和敏捷性,無需進行硬件升級和擴展的前提下,能夠不斷的運行變化的應(yīng)用。為了滿足這一需求,賽靈思推出了可組合式數(shù)據(jù)中心。
何謂可組合式數(shù)據(jù)中心?賽靈思數(shù)據(jù)中心市場營銷總監(jiān)Ed Wright解釋,所謂“可組合式”不僅是計算、網(wǎng)絡(luò)和存儲的分離,也不僅是在基礎(chǔ)設(shè)施層面,可組合式數(shù)據(jù)中心是在器件層面實現(xiàn)可擴展和可配置,從而滿足各類應(yīng)用的需求。
SN1000:SmartNIC迎來新成員
在10G以內(nèi),市場上一直使用標準的NIC,支持高效的輸入輸出,從服務(wù)器到網(wǎng)絡(luò),一直到存儲都不需要進行加速。但是從10G到25G節(jié)點,CPU的內(nèi)核開始出現(xiàn)卡頓,于是就產(chǎn)生了卸載NIC,從而減輕CPU的負擔,同時推進網(wǎng)絡(luò)數(shù)據(jù)包的加速。但是卸載NIC使用的都是ASIC,無法重新編程,而且卸載只能支持10G到25G。隨著端口速率從25G向40G、50G甚至100G過渡,CPU內(nèi)核資源更多用于網(wǎng)絡(luò)數(shù)據(jù)包加速處理,于是可編程SmartNIC應(yīng)運而生。
?
最早采用SmartNIC技術(shù)的是超大規(guī)模的數(shù)據(jù)中心和云服務(wù)提供商,包括百度、阿里、騰訊等公司,它們對線速性能的數(shù)據(jù)包處理性能要求很高。超大規(guī)模數(shù)據(jù)中心的要求各不相同,因此在實施過程中如果使用CPU和ASIC,很難滿足客戶的差異化要求。AISC方案跟不上超大規(guī)模數(shù)據(jù)中心每過12-18個月就會有很大變化的演進速度;CPU和SoC方案無法滿足硬件加速的要求和性能。
超大規(guī)模的數(shù)據(jù)中心和云服務(wù)提供商的要求主要體現(xiàn)在三大領(lǐng)域:網(wǎng)絡(luò)、安全和存儲,他們希望SmartNIC可以實現(xiàn)加速網(wǎng)絡(luò)、安全和存儲卸載功能。
賽靈思推出的Alveo SN1000 是業(yè)界首款硬件可組合式SmartNIC,既包括網(wǎng)絡(luò)功能的卸載,還可以進行計算卸載和計算加速,也是可組合式數(shù)據(jù)中心的核心。賽靈思數(shù)據(jù)中心事業(yè)部網(wǎng)絡(luò)與存儲產(chǎn)品管理總監(jiān) Kartik Srinivasa介紹,這是一個2×100GB的SmartNIC,符合數(shù)據(jù)中心封裝尺寸和功耗僅為75瓦的需求,這款產(chǎn)品基于賽靈思16nm UltraScale+架構(gòu) FPGA,和 16核 NXP Arm處理器,以線速提供協(xié)議級的可編程能力。
如上圖所示,紅色部分FPGA是數(shù)據(jù)面,白色部分是控制面,中間灰色部分是內(nèi)存,內(nèi)存既支持數(shù)據(jù)面也支持控制面。賽靈思預(yù)先對硬件進行了加速,包括OVS加速、網(wǎng)絡(luò)虛擬化安全加速和存儲加速等,因此SN1000 SmartNIC開箱即用,而且即插即用??蛻艨梢赃x擇對數(shù)據(jù)面進行配置。例如,客戶可以用SmartNIC進行遠程存儲加速,對NVMe進行加速。同樣的客戶如果想使用SN1000對于網(wǎng)關(guān)流量進行加速,他可以進行相應(yīng)的配置加速安全和防火墻,同時還能夠保持相關(guān)性能。在這個案例中還有一些剩余空間,客戶還可以對數(shù)據(jù)面的其他方面進行加速。也就是說,SN1000 支持客戶根據(jù)不同的要求進行靈活的組合并進行加速。
如上圖所示,在此案例中,客戶加入了一個定制虛擬交換機,而不是用賽靈思的OVS。同時還可以對虛擬化和安全進行加速,所以客戶可以先使用SN1000提升或者增加數(shù)據(jù)面的功能和加速,或者是根據(jù)客戶需求去除預(yù)裝的功能,然后進行定制,滿足客戶的要求。
客戶怎么才能充分利用可組合式的功能呢?主要是通過賽靈思統(tǒng)一軟件平臺Vitis全新打造的Vitis Networking 軟件平臺。通過Vitis Networking,用戶可以使用像P4這樣的高級語言來對數(shù)據(jù)面進行編程,也可以使用C和C++的語言對于ARM進行控制和流量的管理。
對于成熟的用戶來說,他們可以繼續(xù)使用RTL或者是其它高級綜合這樣傳統(tǒng)的FPGA編程方法,對數(shù)據(jù)面進行管理。通過該模塊,無論是配置還是加速,既可以由賽靈思來實現(xiàn),也可以由客戶來實現(xiàn),以及客戶的客戶、獨立的軟件和IP合作伙伴來實現(xiàn),這就是可編程帶來的強大靈活性。
SmartNIC具有諸多優(yōu)勢,是否意味著其部署會超越傳統(tǒng)NIC?Kartik認為,關(guān)于可編程的SmartNIC,行業(yè)專家預(yù)測到2024年市場占有率會達到70%。有了SmartNIC之后,之前需要消耗很多CPU內(nèi)核被取代了,從而實現(xiàn)更大的外部效應(yīng),使得TCO有關(guān)的費用降到最低。
時延低于1微妙的加速算法交易
當今的算法交易主要是兩大路徑,一個是硬件算法交易,另一個是軟件算法交易,這兩者的性能有很大的差異,如果軟件算法交易想要轉(zhuǎn)換成硬件算法交易門檻非常高。如果做硬件算法交易,需要找專門的硬件開發(fā)商在IT系統(tǒng)上做一個設(shè)計和架構(gòu),然后才能提供解決方案,成本高,且交付周期長。
更讓用戶困惑的是,當今CPU的速度已經(jīng)到達了天花板,時延無法低于一毫秒。主要是由于受到聯(lián)網(wǎng)的影響,也就是通過PCIE總線到網(wǎng)絡(luò),然后再返回CPU,時延不可避免要超過一毫秒,賽靈思的解決方案就是把交易從CPU遷移邊緣,也就是定制的硬件,但是這種方式進入高頻交易市場成本很高,這是很多交易商面臨的一大挑戰(zhàn)。賽靈思加速算法交易可以幫助交易者使用復(fù)雜的策略,而且不需要硬件開發(fā),就可以實現(xiàn)低于一微秒的低時延要求。
在Vitis軟件平臺上,開發(fā)者可以通過模塊化的方式來構(gòu)建并且部署基于FPGA的Alveo卡,之所以稱之為模塊化,是因為他能夠支持庫的混搭,從而支持廣泛的算法交易的應(yīng)用,在這個層面上再部署算法交易的框架和IP。讓交易者可以在賽靈思加速算法交易框架中,使用各種庫進行組合,并且支持C和C++語言進行編程,這樣就能支持各種軟件開發(fā)商,還可以把內(nèi)部和第三方的應(yīng)用進行集成,同時時延降低到微秒級以下,大幅縮短上市時間。
在賽靈思推出加速算法交易之前,有兩種解決方式,一種是使用CPU來驅(qū)動算法交易,雖然部署快速、簡單,但是缺乏市場競爭力;另一種是使用定制的硬件開發(fā),速度很快,競爭力也很強,但是價格昂貴,開發(fā)時間長,所以賽靈思的加速算法交易既能夠縮短上市時間,而且還很有競爭力,填補了算法交易中CPU 或者定制硬件開發(fā)之間的市場空白。
不同的模塊可以涵蓋廣泛的平臺,讓不同的機構(gòu)用戶使用,包括經(jīng)紀人、交易所,市場數(shù)據(jù)廠商,銷售側(cè)的廠商和自營交易商等。賽靈思的加速算法交易部署簡單快捷,只需要購買賽靈思的Alveo U50和Alveo U250,然后通過賽靈思渠道的經(jīng)銷商和分銷商來獲得產(chǎn)品,然后從Xilinx.com免費開源下載,用戶無需授權(quán)費用就可以使用賽靈思的加速算法。
APP Store:方便用戶快速部署加速應(yīng)用
為了方便用戶快速應(yīng)用賽靈思的加速方案,賽靈思還上線了應(yīng)用商店,方便客戶評估、購買、部署有關(guān)的應(yīng)用。和其它應(yīng)用商量類似,賽靈思的應(yīng)用商店也是將應(yīng)用集中到一起,方便客戶瀏覽下載。
賽靈思數(shù)據(jù)中心部亞太區(qū)數(shù)據(jù)中心戰(zhàn)略營銷經(jīng)理Guruprasad M. Parthasarathy表示,“這本身就是非常成熟的一種做法,但對于賽靈思來說,通過應(yīng)用商店的方式可以使賽靈思的客戶非常迅速、方便地評估,并且部署基于賽靈思硬件的解決方案和應(yīng)用,因為這本來一直都是我們的弱項。所以應(yīng)用商店對我們來說,真正實現(xiàn)的突破是能夠支持我們的客戶,使得客戶在認識到FPGA架構(gòu)的優(yōu)勢,只需要十分鐘就可以對有關(guān)的解決方案和應(yīng)用去進行評估和部署。這是一個非常大的突破,尤其是在客戶對于我們的解決方案和應(yīng)用的可獲得性和易用性方面?!?/p>
總之,無論是Vitis Networking和Vitis解決方案,還是SN1000,以及應(yīng)用商店,賽靈思都是希望突破企業(yè)和FPGA技術(shù)的壁壘,使FPGA更加簡單易用,使賽靈思的品能夠更加的普及化,更好地去廣泛服務(wù)企業(yè)。
--end--