萊迪思sensAI 4.1 工具和IP將低功耗FPGA變?yōu)?網(wǎng)絡(luò)邊緣智能AI/ML計算引擎

引言
毫無疑問，你已經(jīng)讀過或聽說過，由于網(wǎng)絡(luò)邊緣設(shè)備數(shù)量激增，產(chǎn)生了不斷增長的巨量數(shù)據(jù)流，這些設(shè)備包括自動駕駛汽車、物聯(lián)網(wǎng)設(shè)備、消費(fèi)電子產(chǎn)品，甚至是筆記本電腦和個人電腦。根據(jù)多項估算，截至2025年，運(yùn)行的物聯(lián)網(wǎng)設(shè)備將達(dá)到數(shù)百億個。這些設(shè)備以連續(xù)數(shù)據(jù)流的形式向云端發(fā)送各種形式的數(shù)據(jù)，數(shù)據(jù)速率也千差萬別?？傮w來說，這些設(shè)備將生成大量原始數(shù)據(jù)，且數(shù)據(jù)量隨著時間的推移不斷增加。

安全攝像頭、自動駕駛汽車和PC中的視頻錄像機(jī)會生成高碼率、高分辨率的視頻流。物聯(lián)網(wǎng)設(shè)備則生成中等碼率的數(shù)據(jù)，匯聚到大數(shù)據(jù)流中。多種其他類型的物聯(lián)網(wǎng)傳感器（測量溫度、壓力、位置、光照水平等）會生成低碼率數(shù)據(jù)流，但很快此類傳感器的數(shù)量將會達(dá)到數(shù)十億。因此，即使是這些低碼率數(shù)據(jù)流也可以在進(jìn)入云端之前匯聚成更大的、高碼率的數(shù)據(jù)流。

5G無線網(wǎng)絡(luò)和其他高速網(wǎng)絡(luò)技術(shù)的興起，包括微微基站（Picocell）、長距離物聯(lián)網(wǎng)網(wǎng)絡(luò)（如LoRaWAN）以及全球聯(lián)網(wǎng)衛(wèi)星網(wǎng)絡(luò)（如SpaceX不斷擴(kuò)展的星鏈寬帶網(wǎng)絡(luò)和Swarm Technologies基于衛(wèi)星的物聯(lián)網(wǎng)網(wǎng)絡(luò)），提供了廣泛而快速的云端訪問（注：星鏈于2021年8月收購了Swarm Technologies）。這些通信和網(wǎng)絡(luò)技術(shù)加速了新興的網(wǎng)絡(luò)邊緣計算設(shè)備和應(yīng)用的發(fā)展。

新興的網(wǎng)絡(luò)邊緣設(shè)備和應(yīng)用包括自動駕駛汽車、機(jī)器人、自動化生產(chǎn)、遠(yuǎn)程監(jiān)控、供應(yīng)鏈和物流系統(tǒng)，以及保障公共和私人安全的視頻監(jiān)控。市場對這些網(wǎng)絡(luò)邊緣系統(tǒng)的需求極速增長，因為它們可以提高效率、降低運(yùn)營成本并改善用戶體驗。但無論我們建設(shè)多少無線和有線通信基礎(chǔ)設(shè)施，超量數(shù)據(jù)的駭浪都可能壓垮或者堵塞這些通向云端的數(shù)據(jù)管道。

網(wǎng)絡(luò)邊緣本地化處理有助于疏通數(shù)據(jù)管道
這些趨勢表明如今需要盡量在網(wǎng)絡(luò)邊緣數(shù)據(jù)產(chǎn)生的地方進(jìn)行更多的處理，減少傳輸?shù)皆贫说臄?shù)據(jù)量。物聯(lián)網(wǎng)和其他網(wǎng)絡(luò)連接設(shè)備的爆發(fā)式增長是推動新的網(wǎng)絡(luò)邊緣設(shè)備開發(fā)的主要動力，這也進(jìn)一步刺激了新應(yīng)用的開發(fā)，從而將原始數(shù)據(jù)轉(zhuǎn)換為有用的、可操作的信息，支持快速決策，實時應(yīng)對不斷變化的情形。

在網(wǎng)絡(luò)邊緣計算發(fā)展的早期階段，公司主要關(guān)注將數(shù)據(jù)遠(yuǎn)距離傳輸?shù)?a class="article-link" target="_blank" href="/tag/%E6%95%B0%E6%8D%AE%E4%B8%AD%E5%BF%83/">數(shù)據(jù)中心的成本問題。最初，網(wǎng)絡(luò)邊緣應(yīng)用的一大特征是需要訪問存儲在云端和連接到云的其他計算機(jī)中的數(shù)據(jù)。這些早期應(yīng)用通常不是實時應(yīng)用；數(shù)百毫秒甚至數(shù)秒的響應(yīng)時間都是可以接受的。然而，物聯(lián)網(wǎng)設(shè)備的發(fā)展以及對網(wǎng)絡(luò)邊緣實時處理、分析和響應(yīng)的需求不斷增長，推動了網(wǎng)絡(luò)邊緣技術(shù)強(qiáng)有力的發(fā)展，同時也伴隨著更大的設(shè)計挑戰(zhàn)。

網(wǎng)絡(luò)邊緣處理使得計算和數(shù)據(jù)存儲越來越靠近收集數(shù)據(jù)的設(shè)備端，而不是在數(shù)千里之外的數(shù)據(jù)中心進(jìn)行分析和決策。網(wǎng)絡(luò)邊緣的實時應(yīng)用通常不容許高延遲，因此處理、分析和決策必須轉(zhuǎn)移到設(shè)備本身。這些網(wǎng)絡(luò)邊緣設(shè)備包括自動駕駛汽車、物聯(lián)網(wǎng)傳感器、安全攝像頭、智能手機(jī)、筆記本電腦和個人電腦等。因此網(wǎng)絡(luò)邊緣計算的潛力巨大。

數(shù)據(jù)重壓之下，云端無法包攬一切
智能手機(jī)和物聯(lián)網(wǎng)設(shè)備的指數(shù)級增長推動了網(wǎng)絡(luò)邊緣計算的發(fā)展，這些設(shè)備無處不在，必須連接到互聯(lián)網(wǎng)才能向云端發(fā)送信息或從云端接收信息。一些物聯(lián)網(wǎng)設(shè)備（例如攝像機(jī)）在運(yùn)行過程中會生成大量數(shù)據(jù)。

其他物聯(lián)網(wǎng)設(shè)備，如溫度傳感器，會生成少量數(shù)據(jù)，但由于這樣的傳感器數(shù)量可達(dá)數(shù)十億，為云端處理帶來了極大的負(fù)擔(dān)。因此，基于網(wǎng)絡(luò)邊緣的處理十分必要，不僅可以降低云端的網(wǎng)絡(luò)通信成本和云存儲成本，還能避免云端數(shù)據(jù)通道過載。

網(wǎng)絡(luò)邊緣產(chǎn)品和應(yīng)用的開發(fā)人員越來越多地采用人工智能和機(jī)器學(xué)習(xí)（AI/ML）算法來匹配和識別復(fù)雜的模式，以幫助分析數(shù)據(jù)并據(jù)此做出決策。事實上，AI/ML技術(shù)的使用增長極其迅猛。

如今AI/ML算法被視為高效處理原始數(shù)據(jù)的必要手段，因為它們可以識別出傳統(tǒng)的算法程序難以解析和識別的復(fù)雜、多維度的數(shù)據(jù)模式。一些特定的AI/ML應(yīng)用包括檢測、識別、辨認(rèn)和計數(shù)人員或物體；資產(chǎn)和存貨追蹤、環(huán)境感知、聲音和語音檢測和識別、系統(tǒng)健康監(jiān)測以及系統(tǒng)維護(hù)調(diào)度等。

圖1. 網(wǎng)絡(luò)邊緣計算的趨勢（圖片來源：萊迪思）

許多可以利用AI/ML功能的網(wǎng)絡(luò)邊緣應(yīng)用需要在極具嚴(yán)苛的功耗限制下運(yùn)行。這些廣泛分布的設(shè)備通常依靠電池供電。此類應(yīng)用在各種網(wǎng)絡(luò)邊緣環(huán)境中比比皆是，包括工廠、農(nóng)場、辦公樓、零售店、醫(yī)院、倉庫、街道和住宅。隨著它們數(shù)量的增加，這些設(shè)備需要在僅充一次電或者僅依靠收集和存儲能量的情況下運(yùn)行較長時間，甚至可能是幾個月或幾年。

因此，許多設(shè)備需要在大部分時間里處于睡眠或休眠狀態(tài)，在設(shè)備處于非活動狀態(tài)時大部分電路應(yīng)處于低功耗待機(jī)模式。然后激活事件會在需要時啟動設(shè)備。在此類應(yīng)用中，以超低功耗運(yùn)行的基礎(chǔ)電路系統(tǒng)必須保持待命，等待激活事件，然后根據(jù)需要為設(shè)備的其余部分供電。

FPGA以低功耗實現(xiàn)AL/ML
對低運(yùn)行功耗和AI/ML算法實現(xiàn)的需求似乎與低功耗網(wǎng)絡(luò)邊緣設(shè)備設(shè)計的要求相互沖突。然而，這兩種復(fù)雜的設(shè)計要求其實并不矛盾。萊迪思最新的FPGA——低功耗、小尺寸、高性能的CertusPro-NX系列器件——專為滿足低功耗網(wǎng)絡(luò)邊緣設(shè)備的諸多設(shè)計要求而定制。這些FPGA可以支持多個傳感器、顯示器，支持高分辨率視頻、網(wǎng)絡(luò)連接和網(wǎng)絡(luò)邊緣AI/ML處理。

與此同時，萊迪思最新發(fā)布的sensAI解決方案集合4.1版本提供了即用的AI/ML工具、IP核、硬件平臺、參考設(shè)計和演示以及定制化設(shè)計服務(wù)，有助于設(shè)計團(tuán)隊開發(fā)新的網(wǎng)絡(luò)邊緣設(shè)備，并將其快速推向市場。最新版本的sensAI支持CertusPro-NX FPGA。

萊迪思sensAI解決方案集合可加速端到端的AI/ML模型訓(xùn)練、驗證和編譯。萊迪思在2021年初發(fā)布的sensAI 4.0中新增了sensAI Studio設(shè)計環(huán)境，這是一種基于圖形用戶界面（GUI）的工具，可幫助開發(fā)人員快速構(gòu)建機(jī)器學(xué)習(xí)應(yīng)用。在使用萊迪思sensAI 4.1中的工具設(shè)置網(wǎng)絡(luò)邊緣計算設(shè)計，并且采用萊迪思iCE40 UltraPlus、CrossLink-NX、ECP5和CertusPro-NX FPGA時，可以在超低功耗下實現(xiàn)實時的AI/ML功能——功耗低至1mW到1W。

?

圖 2. 萊迪思sensAI Studio設(shè)計環(huán)境加速端到端的AI/ML模型訓(xùn)練、驗證和編譯。（圖片來源：萊迪思）

隨著sensAI 4.1支持萊迪思CertusPro-NX FPGA系列產(chǎn)品，sensAI的性能也有了較大提升，除了已有的對象檢測和追蹤應(yīng)用之外，還新增了對多個對象實時分類等應(yīng)用。sensAI 4.1解決方案集合包括更新的神經(jīng)網(wǎng)絡(luò)編譯器，還兼容其他廣泛使用的機(jī)器學(xué)習(xí)平臺，包括最新版本的Caffe、Keras、TensorFlow和TensorFlow Lite。

萊迪思sensAI 4.1解決方案集合中的IP核包括三種類型的卷積神經(jīng)網(wǎng)絡(luò)（CNN）加速器——CNN、CNN Plus和CNN Compact——以及一個CNN協(xié)處理器引擎。CNN IP核能讓開發(fā)人員使用其他人發(fā)布的廣泛使用的各類CNN，例如Mobilenet v1/v2、Resent、SSD和VGG，或者根據(jù)需要自定義CNN模型。sensAI 4.1 CNN加速器利用萊迪思FPGA的并行處理能力、分布式存儲器和DSP資源，極大簡化了超低功耗AI設(shè)計的實現(xiàn)。加速器核利用FPGA的可編程邏輯來實現(xiàn)低功耗神經(jīng)網(wǎng)絡(luò)，包括極其高效的二值神經(jīng)網(wǎng)絡(luò)（BNN），能夠以毫瓦級超低功耗實現(xiàn)CNN。

?

圖3. 萊迪思sensAI解決方案集合可開發(fā)基于萊迪思FPGA的AI/ML設(shè)備。（圖片來源：萊迪思）

萊迪思sensAI 4.1參考設(shè)計
萊迪思FPGA提供可編程I/O，經(jīng)配置可支持傳感器接口常用的多種電氣接口標(biāo)準(zhǔn)。公司還提供許多硬核和軟核IP模塊以支持不同的傳感器通信協(xié)議。由于FPGA長期以來在傳感器融合方面具有顯著優(yōu)勢，因此萊迪思sensAI 4.1的設(shè)計旨在簡化網(wǎng)絡(luò)邊緣設(shè)備中基于多個傳感器的AI/ML推理功能的開發(fā)，實現(xiàn)智能的傳感器融合。sensAI 4.1解決方案集合包括許多參考設(shè)計示例，演示了多種智能傳感器融合的應(yīng)用案例，它們可以同時運(yùn)行，實現(xiàn)深入的情景感知。這些參考設(shè)計包括：

• 手勢檢測

該參考設(shè)計使用IR圖像傳感器，實現(xiàn)了一個基于AI的低功耗手勢檢測系統(tǒng)。該參考設(shè)計提供了一個訓(xùn)練數(shù)據(jù)集、可使用常用神經(jīng)網(wǎng)絡(luò)訓(xùn)練工具訓(xùn)練的腳本以及一個神經(jīng)網(wǎng)絡(luò)模型，方便用戶進(jìn)行修改。

• 關(guān)鍵詞檢測

該參考設(shè)計使用數(shù)字MEMS麥克風(fēng)持續(xù)檢測關(guān)鍵詞話語。設(shè)計人員可以使用深度學(xué)習(xí)框架（例如Caffe、Tensorflow或Keras）更新提供的訓(xùn)練數(shù)據(jù)集，為系統(tǒng)添加喚醒詞功能。參考設(shè)計包括一個訓(xùn)練數(shù)據(jù)集、可使用常用神經(jīng)網(wǎng)絡(luò)訓(xùn)練工具訓(xùn)練的腳本以及一個神經(jīng)網(wǎng)絡(luò)模型，方便用戶進(jìn)行修改。

• 人臉檢測

該參考設(shè)計使用圖像傳感器實現(xiàn)基于CNN的人臉識別，并且可以通過修改訓(xùn)練數(shù)據(jù)庫來識別其他類型的目標(biāo)。

• 人員偵測

該參考設(shè)計使用CMOS圖像傳感器持續(xù)檢測人員的存在?；诖嗽O(shè)計的AI系統(tǒng)可以使用深度學(xué)習(xí)框架（例如Caffe或Tensorflow）更新所提供的訓(xùn)練模型來檢測和定位任何感興趣的目標(biāo)。該參考設(shè)計包括一個神經(jīng)網(wǎng)絡(luò)模型、一個訓(xùn)練數(shù)據(jù)集和可使用常用訓(xùn)練工具訓(xùn)練的腳本。

• 目標(biāo)檢測、分類、追蹤和計數(shù)

該參考設(shè)計提供了目標(biāo)檢測、分類、追蹤和計數(shù)的示例，擁有完整的設(shè)計，包括用于萊迪思開發(fā)板的FPGA RTL、神經(jīng)網(wǎng)絡(luò)模型、示例訓(xùn)練數(shù)據(jù)集以及用于重新創(chuàng)建和更新設(shè)計的腳本。

可以使用AI的常見和潛在的網(wǎng)絡(luò)邊緣應(yīng)用
使用AI/ML算法提高眾多網(wǎng)絡(luò)邊緣設(shè)備（例如自主機(jī)器人、環(huán)境控制和視頻安全攝像頭）的性能具有明顯優(yōu)勢，而其他類型的網(wǎng)絡(luò)邊緣設(shè)備也可以從中受益，例如PC和筆記本電腦。萊迪思正與合作伙伴和客戶合作，利用多模式、智能傳感器融合和AI/ML技術(shù)，不斷提升PC/筆記本電腦用戶的體驗，并顯著降低筆記本電腦的運(yùn)行功耗，在某些應(yīng)用中，電池使用時間最多提高了28%。

哪些設(shè)備特性能發(fā)揮出潛在的價值呢？
PC和筆記本電腦在24小時內(nèi)的使用情況差異很大，一般在白天工作時間集中使用。然而，即使是在工作時間，它們也會有休息狀態(tài)。人們會偶爾休息，中午也會用餐，這些時間他們通常會讓計算機(jī)保持運(yùn)行狀態(tài)，確保他們打開的各種應(yīng)用不被關(guān)閉。

將AI/ML分析和決策與計算機(jī)現(xiàn)有的傳感器（攝像頭和麥克風(fēng)）相結(jié)合，實現(xiàn)智能傳感器融合，能讓PC或筆記本電腦感知周圍環(huán)境，從而決定何時關(guān)閉顯示器和CPU，以及何時應(yīng)該給它們重新供電。

存在檢測最簡單的用途是在周圍無人時關(guān)閉計算機(jī)。當(dāng)用戶長時間遠(yuǎn)離屏幕時，注意力追蹤功能可以調(diào)暗計算機(jī)屏幕并激活低功耗模式。充當(dāng)智能傳感器中心的低功耗、小尺寸FPGA可以接收來自計算機(jī)傳感器的輸入，然后根據(jù)情況決定為哪些組件供電。

解決隱私和安全問題
同樣，這些功能也可以增強(qiáng)計算機(jī)的隱私和安全性。計算機(jī)的內(nèi)置會議攝像頭可用于監(jiān)控用戶身后的背景，檢測是否有人從用戶的肩膀后面窺視。如果計算機(jī)被配置為保護(hù)隱私，當(dāng)授權(quán)用戶背后有人疑似在偷窺計算機(jī)屏幕時，它可以彈出警告提醒用戶甚至自動調(diào)暗屏幕。需要注意的是，使用這些解決方案，所有推理數(shù)據(jù)都保存在FPGA本地。僅將元數(shù)據(jù)傳遞給SoC，這進(jìn)一步增強(qiáng)了隱私并提高了安全性。

優(yōu)化用戶體驗
AI/ML功能還可以增強(qiáng)計算機(jī)用戶的總體體驗。例如，基于AI/ML的面部取景功能可以利用內(nèi)置視頻會議攝像頭的較高分辨率來裁剪和居中用戶的頭像，為視頻會議提供較好的畫面。與會者還可以在會議期間移動的同時，他們的圖像依然保持居中。同樣，手勢識別可以為筆記本電腦或PC或任何其他支持視頻的物聯(lián)網(wǎng)設(shè)備添加非接觸式操作功能。

健康方面的益處
許多公司現(xiàn)在明確表示要保障員工的健康，基于AI/ML的感知功能可以通過彈出提醒和其他措施幫助避免重復(fù)性壓力損傷，并利用計算機(jī)的視頻傳感器確保員工實際上采納了給出的休息建議。

AI/ML應(yīng)用還可用于檢測用戶的姿勢，這可能是造成重復(fù)性壓力損傷的另一個因素。這些利用傳感器主動反饋的特性可以用來開發(fā)健康應(yīng)用，這明顯優(yōu)于目前企業(yè)中所使用的簡單的定時提醒，能夠有效應(yīng)對壓力相關(guān)的工傷。

所有這些通過AI/ML實現(xiàn)的功能都可以幫助供應(yīng)商打造出對企業(yè)買家更具吸引力的PC和筆記本電腦，并且所有這些功能都可以通過sensAI 4.1解決方案集合和萊迪思低功耗FPGA的特性來實現(xiàn)。

這種FPGA的使用方式超越了長期以來FPGA開發(fā)的標(biāo)志性功能——傳感器連接和融合，并且基于成熟的AI/ML算法，新增了傳感器信號分析和決策制定功能。AI/ML的加入使得FPGA成為低功耗系統(tǒng)控制器，可管理系統(tǒng)功能、增強(qiáng)用戶體驗并通過降低整體系統(tǒng)運(yùn)行功耗大幅延長電池壽命。

結(jié)論：數(shù)十億網(wǎng)絡(luò)邊緣設(shè)備的龐大市場有待開發(fā)
憑借其多個低功耗FPGA系列產(chǎn)品和支持這些產(chǎn)品系列的sensAI 4.1解決方案集合，萊迪思致力于為數(shù)十億計的網(wǎng)絡(luò)邊緣設(shè)備帶來AI/ML 技術(shù)。因此，網(wǎng)絡(luò)邊緣應(yīng)用是一個極具潛力的目標(biāo)市場。

根據(jù)多方面的估算，全球廣泛的地域需要數(shù)百億個網(wǎng)絡(luò)邊緣設(shè)備來滿足大量網(wǎng)絡(luò)邊緣市場的需求，這對于FPGA 業(yè)務(wù)來說非常具有吸引力——當(dāng)然這種規(guī)模對于任何行業(yè)來說都是如此。萊迪思發(fā)布sensAI 4.1解決方案集合及其低功耗、小尺寸FPGA系列，則是直接瞄準(zhǔn)了網(wǎng)絡(luò)邊緣應(yīng)用和市場。萊迪思的sensAI 4.1解決方案集合是一種網(wǎng)絡(luò)邊緣應(yīng)用的創(chuàng)新開發(fā)工具，系統(tǒng)開發(fā)人員可以借此為各種市場開發(fā)靈活、針對特定應(yīng)用、基于FPGA的AI/ML推理解決方案。
?