386
AI正在快速發(fā)展，其動(dòng)力不僅來(lái)源于持續(xù)的技術(shù)進(jìn)步，還來(lái)自各個(gè)行業(yè)的需求和要求。隨著大型語(yǔ)言模型（LLM）和生成式AI的激增，行業(yè)正在努力解決這些基于云的AI應(yīng)用處理大數(shù)據(jù)以及訓(xùn)練和部署高級(jí)AI模型所需的密集計(jì)算能力。如今AI被應(yīng)用于各種客戶(hù)端設(shè)備中，包括PC和智能手機(jī)，以及汽車(chē)和工業(yè)設(shè)備（如機(jī)器人和醫(yī)療設(shè)備）的網(wǎng)絡(luò)邊緣應(yīng)用中，這些設(shè)備在網(wǎng)絡(luò)邊緣較小的語(yǔ)言模型上運(yùn)行。
萊迪思團(tuán)隊(duì)最近與TECHnalysis Research總裁兼首席分析師Bob O'Donnell舉辦了一場(chǎng)小組討論，探討了網(wǎng)絡(luò)邊緣AI時(shí)代的到來(lái)，以及基于FPGA的解決方案在加速各行業(yè)網(wǎng)絡(luò)邊緣AI普及方面的作用。你可以點(diǎn)擊此處觀看精彩的討論，內(nèi)容涵蓋AI趨勢(shì)、現(xiàn)實(shí)世界的網(wǎng)絡(luò)邊緣AI應(yīng)用，以及萊迪思與NVIDIA在邊緣AI方面的合作信息。繼續(xù)閱讀本文探索FPGA在推動(dòng)網(wǎng)絡(luò)邊緣AI創(chuàng)新方面的重要作用。
網(wǎng)絡(luò)邊緣AI如何推動(dòng)創(chuàng)新
雖然基于云的AI提供了更強(qiáng)大的計(jì)算能力和存儲(chǔ)容量，但它需要極強(qiáng)的處理能力、能耗、網(wǎng)絡(luò)帶寬要求更高，并導(dǎo)致延遲增加。通過(guò)將處理任務(wù)分擔(dān)到本地設(shè)備，網(wǎng)絡(luò)邊緣AI減輕了集中式服務(wù)器的負(fù)擔(dān)并降低了運(yùn)營(yíng)成本。通過(guò)優(yōu)化資源利用率和最大限度地減少數(shù)據(jù)傳輸可以提高能效。網(wǎng)絡(luò)邊緣AI還能確保數(shù)據(jù)的本地化，減少傳輸或存儲(chǔ)過(guò)程中的風(fēng)險(xiǎn)暴露，從而更好地控制數(shù)據(jù)，實(shí)現(xiàn)隱私和數(shù)據(jù)保護(hù)。
網(wǎng)絡(luò)邊緣AI在工業(yè)市場(chǎng)變革方面發(fā)揮著關(guān)鍵作用，在智能工廠和機(jī)器人等自動(dòng)化功能至關(guān)重要的物聯(lián)網(wǎng)應(yīng)用中，邊緣AI 是實(shí)現(xiàn)實(shí)時(shí)預(yù)測(cè)和數(shù)據(jù)處理的關(guān)鍵推動(dòng)因素。例如，在制造工廠中，自動(dòng)化機(jī)器必須每次都能夠以相同的精度和速度執(zhí)行任務(wù)。這些應(yīng)用和環(huán)境要求實(shí)時(shí)網(wǎng)絡(luò)連接和精準(zhǔn)定時(shí)功能，便于大量傳感器和其他外設(shè)能夠快速交換和處理數(shù)據(jù)，以全面了解其所在環(huán)境。
然而，盡管網(wǎng)絡(luò)邊緣AI的需求及其潛力巨大，但有效實(shí)施仍然充滿(mǎn)挑戰(zhàn)。資源限制、能效和可擴(kuò)展性等難題都可能阻礙人們利用網(wǎng)絡(luò)邊緣AI的優(yōu)勢(shì)來(lái)取得重大的業(yè)務(wù)成果。為了解決這些障礙，組織越來(lái)越多地利用FPGA技術(shù)，因?yàn)檫@些器件具備優(yōu)秀的靈活性、低功耗、并行處理功能和安全性。
FPGA在網(wǎng)絡(luò)邊緣AI中的作用
隨著網(wǎng)絡(luò)邊緣AI的需求和優(yōu)勢(shì)不斷增長(zhǎng)，開(kāi)發(fā)人員和組織正在尋求AI模型運(yùn)用到他們的應(yīng)用中——同時(shí)考慮到速度、靈活性和效率。FPGA具有低功耗傳感器融合處理和橋接功能，是完成這項(xiàng)任務(wù)的理想選擇。
萊迪思FPGA對(duì)于實(shí)現(xiàn)可擴(kuò)展的網(wǎng)絡(luò)邊緣AI應(yīng)用至關(guān)重要，因?yàn)樗鼈兙邆湟韵绿匦裕?/p>
- 適應(yīng)性：FPGA可以配置執(zhí)行特定的AI任務(wù)，進(jìn)一步幫助開(kāi)發(fā)人員根據(jù)其獨(dú)特需求定制應(yīng)用。通過(guò)確保網(wǎng)絡(luò)邊緣AI應(yīng)用最大的效能優(yōu)化，提高其性能可靠性。
- 可擴(kuò)展性：相比于功能固定的處理器，F(xiàn)PGA擁有無(wú)可比擬的靈活性，可以在部署后進(jìn)行修改和更新，確保網(wǎng)絡(luò)邊緣AI設(shè)備即使在需求發(fā)生變化時(shí)也能保持相關(guān)性和有效性。
- 互連：FPGA的可定制I/O接口支持在各種環(huán)境中連接到各種邊緣AI應(yīng)用（例如，攝像頭、激光雷達(dá)、雷達(dá)、環(huán)境傳感器）。這有助于降低利用多個(gè)不同傳感器和SoC的復(fù)雜性，實(shí)現(xiàn)更高性能、自適應(yīng)接口以及橋接和傳感器融合處理。
- 低延遲/高性能：FPGA顯著減少了傳感器數(shù)據(jù)采集和處理之間的延遲，從而實(shí)現(xiàn)更快的響應(yīng)和更高的系統(tǒng)性能。通過(guò)在FPGA上執(zhí)行預(yù)處理任務(wù)和數(shù)據(jù)聚合，網(wǎng)絡(luò)邊緣AI設(shè)備的計(jì)算引擎可以專(zhuān)注于更復(fù)雜的任務(wù)，提高整體系統(tǒng)效率，同時(shí)簡(jiǎn)化主SoC工作負(fù)載，降低主處理器的功耗和復(fù)雜性。
不斷增長(zhǎng)的邊緣 AI 實(shí)施行業(yè)生態(tài)系統(tǒng)
隨著組織越來(lái)越多地使用系統(tǒng)級(jí)方法執(zhí)行處理，萊迪思也與NVIDIA建立合作，幫助客戶(hù)加速網(wǎng)絡(luò)邊緣AI的實(shí)施。去年，我們宣布建立了合作伙伴關(guān)系，并推出了一款全新的集成解決方案，將萊迪思的低功耗FPGA與NVIDIA Jetson Orin和IGX Orin平臺(tái)結(jié)合在一款開(kāi)源參考板上。它旨在滿(mǎn)足開(kāi)發(fā)人員在設(shè)計(jì)高性能網(wǎng)絡(luò)邊緣AI應(yīng)用時(shí)對(duì)可定制性、可擴(kuò)展性、連接性和低延遲的需求。
該解決方案幫助開(kāi)發(fā)人員快速設(shè)計(jì)從傳感器到計(jì)算的互連橋接應(yīng)用，同時(shí)簡(jiǎn)化和加速部署需要不同傳感器輸入接口和協(xié)議的智能網(wǎng)絡(luò)邊緣系統(tǒng)。
這個(gè)基于FPGA的傳感器橋接參考設(shè)計(jì)是在萊迪思CertusPro?-NX傳感器-以太網(wǎng)橋接板上實(shí)現(xiàn)的，它支持低延遲、靈活的傳感器配置和接口，以及以太網(wǎng)打包器。該設(shè)計(jì)可與英偉達(dá)Holoscan傳感器橋接軟件無(wú)縫結(jié)合，提供易于編程的系統(tǒng)控制、隨時(shí)可用的可配置FPGA IP，以及利用英偉達(dá)IGX Orin和Orin AGX Holoscan進(jìn)行數(shù)據(jù)采集和處理的全棧解決方案。該方案可用于實(shí)際場(chǎng)景，助力要求并行處理和精確定時(shí)的高效傳感器融合，以及需要態(tài)勢(shì)感知和對(duì)象檢測(cè)功能的激光雷達(dá)和雷達(dá)技術(shù)。
使用FPGA實(shí)現(xiàn)低功耗AI
萊迪思FPGA技術(shù)的集成對(duì)于推進(jìn)網(wǎng)絡(luò)邊緣低功耗AI至關(guān)重要。隨著AI的不斷發(fā)展，對(duì)高效、可擴(kuò)展和適應(yīng)性強(qiáng)的解決方案的需求變得越來(lái)越重要。FPGA提供低功耗、并行處理能力和靈活性，這一獨(dú)特的功能組合使其成為網(wǎng)絡(luò)邊緣AI應(yīng)用的理想選擇。
各行各業(yè)都可以通過(guò)萊迪思FPGA克服資源限制、能效和可擴(kuò)展性方面的挑戰(zhàn)。這些可編程器件支持實(shí)時(shí)數(shù)據(jù)處理和預(yù)測(cè)，這對(duì)于工業(yè)設(shè)備、醫(yī)療設(shè)備、汽車(chē)和機(jī)器人領(lǐng)域的應(yīng)用至關(guān)重要。FPGA的適應(yīng)性可以幫助用戶(hù)量身定制AI解決方案，以滿(mǎn)足各種環(huán)境的特定需求，確保最佳性能和可靠性。
隨著萊迪思的持續(xù)發(fā)展，F(xiàn)PGA在提供低功耗AI方面的作用將繼續(xù)擴(kuò)大，為開(kāi)發(fā)人員提供充分利用網(wǎng)絡(luò)邊緣AI潛力所需的工具。
如需了解更多關(guān)于萊迪思如何實(shí)現(xiàn)網(wǎng)絡(luò)邊緣AI的信息，請(qǐng)立即聯(lián)系我們的團(tuán)隊(duì)。想要探索前沿趨勢(shì)、挑戰(zhàn)和機(jī)遇，以及面向網(wǎng)絡(luò)邊緣AI、安全和高級(jí)互連等應(yīng)用的突破性可編程解決方案，請(qǐng)注冊(cè)參加2024年12月10-11日舉行的萊迪思開(kāi)發(fā)者大會(huì)。
