讓自適應(yīng)計算躋身主流處理器，賽靈思的三道必答題

什么是自適應(yīng)計算？業(yè)界有這么多的計算平臺，如CPU、GPU、DSP等，為什么還需要自適應(yīng)計算？自適應(yīng)計算能給業(yè)界帶來什么？這些問題，是賽靈思于2018年推出自適應(yīng)計算加速平臺（Adaptive Compute Acceleration Platform）時，被問到的最多的問題。時隔三年，賽靈思又取得了哪些進展？

今年5月，賽靈思總裁兼首席執(zhí)行官Victor Peng在接受媒體采訪時曾表示，過去三年，賽靈思處于從FPGA公司向自適應(yīng)計算平臺公司轉(zhuǎn)型的過程中。盡管面臨各種外部挑戰(zhàn)，但仍能保持當(dāng)前的成長之路，這期間的幾項重要決定，為未來奠定了積極的方向，這其中的一個重大決策就包括：讓平臺更易于使用，讓自適應(yīng)計算為更多的創(chuàng)新者賦能。?

日前，賽靈思人工智能及軟件業(yè)務(wù)市場總監(jiān)羅霖（ Andy Luo）在接受<與非網(wǎng)>采訪時，進一步闡釋了如何推動自適應(yīng)計算力量的普及化，以及如何讓自適應(yīng)計算流行起來。

?

?

自適應(yīng)計算能為業(yè)界帶來什么？

羅霖首先指出了自適應(yīng)計算與其他計算方式的根本區(qū)別——不論是基于CPU、GPU或其他計算平臺做開發(fā)，需要優(yōu)化軟件來適應(yīng)硬件，也就是說，硬件是固定的，只能通過改寫代碼來提升平臺性能。而自適應(yīng)計算的概念恰好相反，平臺可提供開發(fā)工具、加速API等，可以為具體應(yīng)用優(yōu)化硬件、定義軟件，并且這種優(yōu)化是持續(xù)不斷進行的，即使是產(chǎn)品量產(chǎn)后，在部署階段也可以進行優(yōu)化。簡言之，所謂自適應(yīng)計算，就是根據(jù)具體的應(yīng)用優(yōu)化硬件，硬件是軟件定義的、軟件可編程的，是新一代的計算形式。?

至于為什么需要自適應(yīng)計算？則是在當(dāng)前創(chuàng)新步伐加速之下，賽靈思著力推進的技術(shù)路線，它主要包含兩方面：一是提高創(chuàng)新效率，二是提供面向所有開發(fā)者的易用性。

羅霖表示，為了讓更多的開發(fā)者能夠獲益于自適應(yīng)計算平臺開發(fā)的高效率，賽靈思將易用性作為重要的戰(zhàn)略著力點。通過為開發(fā)者提供他們熟悉的編程語言、框架和集成開發(fā)環(huán)境，以及足夠的加速API庫和參考設(shè)計，大幅降低了自適應(yīng)計算的門檻，開發(fā)者上手設(shè)計的速度也得以大幅提升。

“自適應(yīng)計算”背后，蘊藏了賽靈思從云端到邊緣再到終端的決心和方向，即：將最新的架構(gòu)創(chuàng)新提供給端到端應(yīng)用的每一個部分，軟件和 AI 開發(fā)者只需借助硬件抽象工具，就能充分發(fā)揮它的優(yōu)勢，而無需成為硬件專家。

如何推動自適應(yīng)計算力量的普及？

過往的發(fā)展證明，任何計算形式的普及、任何計算平臺的流行，都離不開開發(fā)者，離不開生態(tài)系統(tǒng)的不斷壯大。為了讓自適應(yīng)計算流行起來，賽靈思需要不斷開拓開發(fā)者生態(tài)系統(tǒng)，賦能所有開發(fā)者。

賦能所有開發(fā)者——這是一個橫跨軟件和硬件開發(fā)者的雄心勃勃的計劃。這意味著，在最基本的芯片和組件之上，需要一個完整的堆棧，提供靈活的硬件平臺、涵蓋不同的處理單元、開發(fā)工具，覆蓋面向不同開發(fā)環(huán)境、開發(fā)群體的適應(yīng)性和彈性。這一龐大的愿景，賽靈思如何實現(xiàn)？

羅霖介紹，基于Versal ACAP異構(gòu)加速硬件平臺，上層涵蓋了標量引擎、可編程邏輯、AI加速引擎在內(nèi)的不同處理單元，以及硬件IP、加速庫、定制硬件和專門的AI加速庫等。在此基礎(chǔ)之上，還有三種不同的開發(fā)工具：適合于底層硬件IP、加速庫開發(fā)的Vivado；面向軟件開發(fā)者的集成式開發(fā)環(huán)境和平臺Vitis，開發(fā)者可以使用熟悉的高層次語言C、C++和Python來進行編程；還有專門針對AI推理的開發(fā)平臺Vitis AI，支持AI開發(fā)者使用熟悉的框架，如TensorFlow、PyTorch、Caffe來訓(xùn)練模型，再通過Vitis AI來進行部署，讓AI模型能夠高效在硬件平臺上實現(xiàn)。

為了持續(xù)解鎖開發(fā)者的生產(chǎn)力，賽靈思在不斷推出新的開發(fā)工具和面向新應(yīng)用的開發(fā)平臺。今年6月推出了基于機器學(xué)習(xí)的 VivadoML版本，剛剛又發(fā)布了針對AI智能視頻分析應(yīng)用的新工具 Vitis Video Analytics SDK。

據(jù)介紹，基于機器學(xué)習(xí)的VivadoML版本是一個突破性的升級：通過在Vivado環(huán)境中使用機器學(xué)習(xí)技術(shù)來提升布線的時延優(yōu)化，進行模塊化的自動化設(shè)計，從而將結(jié)果質(zhì)量(QoR)平均提升了約10%(在不同的測試的用例中甚至?xí)岣?0%)。同時，還有基于可重配置模塊的層級化編譯器，用戶可以自定義模塊，再通過賽靈思工具進行增量編譯和并行編譯，從而將平均編譯時間縮短5倍，最高縮短17倍。

在針對新應(yīng)用的開發(fā)平臺方面，賽靈思選擇了智能視頻分析作為切入點，推出了視頻分析SDK。基于Omdia報告，賽靈思預(yù)測2020至2027年，AI推理市場年復(fù)合增長率將為35%，其中，55%的AI推理應(yīng)用都將基于圖像、視頻，這也正是賽靈思推出視頻分析SDK的一大原因。
?

Vitis Video SDK底層基于賽靈思Alveo嵌入式平臺，支持運行時庫、Vitis、Vitis AI、Gstreamer多媒體協(xié)議、以及包括視頻編解碼、圖像預(yù)處理等插件。為了構(gòu)建智慧城市、智慧零售、智慧醫(yī)療、智慧建筑等方面的應(yīng)用，Vitis Video SDK還提供了C++和Python接口，支持TensorFlow、Pytorch、Caffe等主流框架模型，開發(fā)者無需使用RTL進行編程，所有的編程都基C++和Python API，開發(fā)效率得以大幅提升。

?
根據(jù)展示的評測數(shù)據(jù)，在視頻解碼預(yù)處理加車牌識別場景下，賽靈思的Kria SOM可以運行3路數(shù)據(jù)流，英偉達Jetson Nano、TX2只能運行1-2路，賽靈思可提供約1.5~3倍的性能；Alveo加速卡方面，主要工作負載為運行視頻解碼預(yù)處理、目標檢測和分類，Versal VCK5000可以實現(xiàn)32路，英偉達T4約為16路，賽靈思可提供高出2倍的吞吐量。

從可編程FPGA到自適應(yīng)計算平臺，AI和機器學(xué)習(xí)在賽靈思的技術(shù)演進中發(fā)揮了重大作用。羅霖以視覺分析為例介紹，傳統(tǒng)算法更多是基于規(guī)則、基于計算機視覺的，在自適應(yīng)計算平臺中，賽靈思提供了可靈活配置、可伸縮的AI加速引擎DPU，用戶可以根據(jù)硬件平臺來配置和集成該引擎，根據(jù)芯片的不同來選擇引擎的大小，從而實現(xiàn)有效的AI加速，這就是自適應(yīng)計算理念的典型呈現(xiàn)，即根據(jù)應(yīng)用和工作負載，來定制硬件、適配軟件。

如何擴大生態(tài)影響力？

為了提高開發(fā)者技能，助力開發(fā)者在自適應(yīng)計算平臺上進行更多、更好的項目設(shè)計，賽靈思去年底推出了新的開發(fā)者計劃 （ Xilinx Developer Program ），推出了全新設(shè)計的開發(fā)者網(wǎng)站，為開發(fā)者提供Vivado、Vitis、Vitis AI相關(guān)的開發(fā)資源(項目、工程、底層設(shè)計)；上線了賽靈思應(yīng)用商店（AppStore），用戶可以線上購買 Alveo 卡和 Kria SOM；通過 GitHub 項目和支持開源社區(qū)，提升用戶對賽靈思開源的認知度；增加了虛擬培訓(xùn)課程，發(fā)布了不同的培訓(xùn)視頻，并創(chuàng)建了更多技術(shù)電子書；推出大學(xué)計劃，并主辦了自適應(yīng)計算挑戰(zhàn)賽等賽事；推出開發(fā)者認證計劃，針對通過認證的開發(fā)者，提供早期使用（ Early Access ）機會，讓他們能夠率先接觸到賽靈思最新的技術(shù)。

值得一提的是，今年舉辦的第二屆自適應(yīng)計算挑戰(zhàn)賽，大賽的規(guī)模將是去年的2倍，預(yù)計將吸引2000名參賽選手，最終將評選出360名入圍選手，15名獲獎?wù)?，獎金總額7萬美金。本屆賽事還增設(shè)了兩個特殊獎項：賽靈大學(xué)計劃(XUP)和科技女性(WIT, Women in Technology)專項獎，來推動高等院校自適應(yīng)計算的創(chuàng)新、以及技術(shù)領(lǐng)域的多元化發(fā)展。

羅霖表示，在工具采用方面，已經(jīng)顯露出強勁的發(fā)展勢頭。據(jù)統(tǒng)計，Vitis下載量已經(jīng)超過15萬次，Vitis AI下載量超過10萬次，而50%以上的下載都來自于新用戶；開發(fā)者計劃推出約8個月，目前已經(jīng)突破了10000注冊人數(shù)；應(yīng)用商店上線半年時間，已經(jīng)覆蓋了200多個不同應(yīng)用。賽靈思希望不斷降低自適應(yīng)計算門檻，擁抱所有開發(fā)者及數(shù)據(jù)科學(xué)家，真正做到讓自適應(yīng)計算流行起來。