專訪Arm：關(guān)于“AIoT現(xiàn)狀和趨勢(shì)”的思考

“技術(shù)演進(jìn)的速度從來(lái)都不是線性的，回顧手機(jī)與物聯(lián)網(wǎng)的發(fā)展歷程，我們會(huì)發(fā)現(xiàn)第一部手機(jī)發(fā)明于1940年代，而手機(jī)市場(chǎng)的爆發(fā)式增長(zhǎng)卻出現(xiàn)在2000年代后期，同樣的，我們看到了物聯(lián)網(wǎng)幾乎平行的趨勢(shì)，經(jīng)歷了自控、互連和智能三個(gè)階段。所以，人工智能物聯(lián)網(wǎng)（AIoT）一定是物聯(lián)網(wǎng)（IoT）未來(lái)發(fā)展的必然趨勢(shì)，也是促進(jìn)物聯(lián)網(wǎng)騰飛和使整個(gè)物聯(lián)網(wǎng)生態(tài)利益均沾的動(dòng)力?！?在今年的ELEXCON 深圳國(guó)際電子展上，Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健如是說(shuō)。

圖 | Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁 馬健

據(jù)悉，在2021年出貨的近300億顆基于Arm架構(gòu)的芯片中，有2/3 (近200億顆)被部署到了物聯(lián)網(wǎng)和嵌入式應(yīng)用中。

什么是AIoT？

從字面上看，AIoT可以拆解為“AI+IoT”，而IoT已經(jīng)提了那么多年，人們對(duì)它的概念已經(jīng)不陌生，所以要弄清楚AIoT，還得先了解AIoT與傳統(tǒng)IoT的區(qū)別。

事實(shí)上，AIoT與傳統(tǒng)IoT的區(qū)別在于云邊端協(xié)同的整個(gè)系統(tǒng)對(duì)于數(shù)據(jù)感知、采集、處理的能力，全鏈路安全可靠性，邊緣設(shè)備實(shí)時(shí)決策效率，以及創(chuàng)新迭代速度的顯著提升。與此同時(shí)，AIoT對(duì)系統(tǒng)算力的要求也會(huì)更高。

未來(lái)，AI算子的落地會(huì)根據(jù)應(yīng)用對(duì)延時(shí)、安全、帶寬的不同需求出現(xiàn)在傳感器側(cè)或控制端。

對(duì)此，馬健表示：“Arm產(chǎn)品將全面支持人工智能的部署，打造物聯(lián)網(wǎng)全面解決方案，助力AIoT智能視覺(jué)、智能語(yǔ)音/音頻，以及融合感知等用例的敏捷開(kāi)發(fā)部署，給予客戶更靈活的選擇。”

在傳感器側(cè)，Arm Cortex-M嵌入式處理器是目前普遍的選擇方案。而Arm今年發(fā)布的最新款Cortex-M85處理器，不僅通過(guò)新增Helium技術(shù)，大幅度提高機(jī)器學(xué)習(xí)計(jì)算性能，同時(shí)也增強(qiáng)了安全性、系統(tǒng)可靠性等。此外，Arm也推出助力智能視覺(jué)的加速器Mali-C55圖像信號(hào)處理器，以及適于終端AI的加速器Ethos U系列，提升端側(cè)AI算力和效率。

在控制側(cè)，Arm 看到更多客戶選擇了Arm Cortex-A系列應(yīng)用處理器，因?yàn)樗邆涓S富的數(shù)據(jù)處理、更強(qiáng)大的AI與安全支持。Arm最新的Armv9架構(gòu)最重大的升級(jí)在于AI和安全，在兼容Armv8架構(gòu)的基礎(chǔ)上，提升了安全性，增加了矢量計(jì)算、機(jī)器學(xué)習(xí)和數(shù)據(jù)信號(hào)處理等多方面能力，性能表現(xiàn)也得到極大幅度的提升。

AIoT將在哪些領(lǐng)域率先落地？

根據(jù)GSMA發(fā)布的《The mobile economy 2020(2020年移動(dòng)經(jīng)濟(jì))》報(bào)告顯示，2019年全球物聯(lián)網(wǎng)總連接數(shù)達(dá)到120億，預(yù)計(jì)到2025年，全球物聯(lián)網(wǎng)總連接數(shù)規(guī)模將達(dá)到246億，年復(fù)合增長(zhǎng)率高達(dá)13%。

此外，根據(jù)IDC發(fā)布的數(shù)據(jù)顯示，2019年全球AIoT市場(chǎng)規(guī)模達(dá)到2264億美元，預(yù)計(jì)到2022年將提升至4820億美元，2019-2022年復(fù)合增長(zhǎng)率有望達(dá)到為28.65％。

根據(jù)以上兩組數(shù)據(jù)，可以看出，不論是IoT還是AIoT，全球市場(chǎng)規(guī)模的增長(zhǎng)都相當(dāng)可觀，且AIoT的增長(zhǎng)速度快于整體IoT市場(chǎng)。

那么到底在哪些細(xì)分領(lǐng)域，AIoT正在優(yōu)先落地呢？馬健告訴與非網(wǎng)：“從技術(shù)角度來(lái)講，利用AI/ML技術(shù)驅(qū)動(dòng)的智能視覺(jué)、智能音頻、智能語(yǔ)音以及融合感知應(yīng)用是人工智能物聯(lián)網(wǎng)落地的先發(fā)板塊。從應(yīng)用角度來(lái)講，延續(xù)智慧城市、智能樓宇和智慧家庭的用例，人工智能物聯(lián)網(wǎng)將在工業(yè)物聯(lián)網(wǎng)和醫(yī)療健康領(lǐng)域落地開(kāi)花?！?/p>

同時(shí)，她用MediaTek、研華和Canonical在工業(yè)智能物聯(lián)網(wǎng)領(lǐng)域的聯(lián)合解決方案來(lái)舉例，表明AIoT正在朝著高端化的方向發(fā)展，市場(chǎng)對(duì)單板計(jì)算機(jī) (SBC)的需求正在擴(kuò)張。為此，MediaTek發(fā)布了基于Arm Cortex-A78、Cortex-A55 CPU、Mali-G57 GPU的AIoT 芯片產(chǎn)品組合Genio 。而作為更下游的研華，已經(jīng)針對(duì)以視覺(jué)應(yīng)用為主的IoT市場(chǎng)推出了基于Genio 1200芯片的RSB-3810 SBC。

國(guó)內(nèi)外AIoT產(chǎn)業(yè)的差距有多大？

我國(guó)的AIoT產(chǎn)業(yè)正從蓄力期過(guò)渡至高速發(fā)展期，國(guó)內(nèi)市場(chǎng)在人工智能物聯(lián)網(wǎng)方面的用例更豐富，消費(fèi)者的接受能力也很高。在智能視覺(jué)和語(yǔ)音/音頻方面，由于國(guó)內(nèi)有豐富的數(shù)據(jù)集支持人工智能訓(xùn)練，和諸如智慧城市等成熟的用例，國(guó)內(nèi)廠家在技術(shù)上也相對(duì)領(lǐng)先，生態(tài)系統(tǒng)也日趨成熟。

然而不得不承認(rèn)的是，我國(guó)的自動(dòng)化和聯(lián)網(wǎng)化程度還和國(guó)際發(fā)達(dá)水平有著不小的差距，尤其是在工業(yè)物聯(lián)網(wǎng)方面。

撇開(kāi)基礎(chǔ)差距不談，僅從技術(shù)路線的角度來(lái)剖析，可以發(fā)現(xiàn)，國(guó)外歐美成熟市場(chǎng)在人工智能物聯(lián)網(wǎng)方面更注重軟件定義系統(tǒng)和敏捷開(kāi)發(fā)迭代，將現(xiàn)代化的CI/CD、DevOps、MLOps、容器和微服務(wù)等云原生的概念應(yīng)用到端和邊緣。Arm在2021年底推出的Arm虛擬硬件 (Arm Virtual Hardware, AVH)，就在AWS、GitHub、Tensorflow CI/CD得到了應(yīng)用，促進(jìn)AIoT軟件和AI模型的敏捷開(kāi)發(fā)迭代。同時(shí)，歐美市場(chǎng)對(duì)于人工智能物聯(lián)網(wǎng)安全也格外重視，以AWS為例，不僅將其主推的FreeRTOS通過(guò)了PSA Certified安全認(rèn)證，而且其IoT云服務(wù)督促接入的設(shè)備通過(guò)同一認(rèn)證。

從IoT向AIoT轉(zhuǎn)型過(guò)程中的挑戰(zhàn)有哪些？

“AIoT未來(lái)是由軟件定義系統(tǒng)，敏捷開(kāi)發(fā)迭代理念及方法，和更開(kāi)放擁抱合作的文化來(lái)支撐的。一個(gè)企業(yè)如果可以逐步完成創(chuàng)新文化的轉(zhuǎn)型，那么技術(shù)上的挑戰(zhàn)會(huì)迎刃而解。反之，如果不能跳出傳統(tǒng)的思維方式，在員工技能轉(zhuǎn)型、產(chǎn)品開(kāi)發(fā)流程等方面進(jìn)行改革，單純?cè)u(píng)估技術(shù)有可能會(huì)事倍功半。”這是馬健對(duì)IoT向AIoT轉(zhuǎn)型過(guò)程中挑戰(zhàn)的理解。這意味著，從某種程度上來(lái)說(shuō)，文化挑戰(zhàn)大于技術(shù)挑戰(zhàn)。

而單講技術(shù)方面的挑戰(zhàn)，馬健又特別著重以下五個(gè)方面：

• 低功耗異構(gòu)計(jì)算設(shè)備的設(shè)計(jì)和實(shí)現(xiàn)：AIoT將使支持人工智能的算力分布到世界的每個(gè)角落，這樣的規(guī)模對(duì)能耗和計(jì)算效率有極高的要求，如何在AIoT部署的同時(shí)保證低碳、綠色計(jì)算，將是技術(shù)創(chuàng)新的一大方向；
• 軟硬件協(xié)同創(chuàng)新：AIoT和邊緣智能點(diǎn)燃了AI加速器硬件的創(chuàng)新熱潮，但是邊緣AI硬件加速能力能否完全釋放給應(yīng)用層，這還需要倚靠工具鏈、底層基礎(chǔ)軟件和AI框架模型的協(xié)同；
• 全鏈路安全：AIoT使數(shù)據(jù)和計(jì)算走出數(shù)據(jù)中心，失去物理安全的保護(hù)，增大了安全攻擊面。如何保證數(shù)據(jù)在靜止、傳輸和使用中的安全，是影響到AIoT發(fā)展的緊迫問(wèn)題；
• 敏捷開(kāi)發(fā)迭代：人工智能模型針對(duì)應(yīng)用的優(yōu)化依賴于使用真實(shí)數(shù)據(jù)對(duì)模型的重新訓(xùn)練以及分發(fā)，物聯(lián)網(wǎng)安全的提升也依賴于設(shè)備安全軟件的及時(shí)更新，這些需求意味著AIoT系統(tǒng)必須要使用敏捷開(kāi)發(fā)迭代機(jī)制，包括將CI/CD、DevOps、MLOps、容器和微服務(wù)等云原生的概念應(yīng)用到端和邊緣；
• 擁抱開(kāi)放、標(biāo)準(zhǔn)和生態(tài)系統(tǒng)合作：物聯(lián)網(wǎng)的碎片化會(huì)直接抑制AIoT的規(guī)模發(fā)展與部署，將非差異化的模塊標(biāo)準(zhǔn)化，以開(kāi)放的模式合作開(kāi)發(fā)，是減少碎片化，并提高整個(gè)生態(tài)系統(tǒng)發(fā)展速度的關(guān)鍵。

隨著市場(chǎng)規(guī)模的擴(kuò)張，“安全問(wèn)題”將成為行業(yè)焦點(diǎn)？

根據(jù)《PSA Certified 2022安全性報(bào)告》預(yù)測(cè)，隨著全行業(yè)協(xié)力解決長(zhǎng)久以來(lái)確保生態(tài)系統(tǒng)安全性速度滯后數(shù)字化轉(zhuǎn)型進(jìn)度的難題，2022年將成為確保物聯(lián)網(wǎng)安全的一大轉(zhuǎn)折點(diǎn)。物聯(lián)網(wǎng)安全性早已邁過(guò)了早期采用階段，其未來(lái)的演進(jìn)方向非常清晰——安全是根本基礎(chǔ)，而非可有可無(wú)。

對(duì)此，馬健表示：“Arm正在分別從認(rèn)證標(biāo)準(zhǔn)、架構(gòu)創(chuàng)新、IP實(shí)踐、軟件賦能等方向，助力產(chǎn)業(yè)安全達(dá)標(biāo)。”

在認(rèn)證標(biāo)準(zhǔn)方面，Arm 持續(xù)推動(dòng)安全性最佳實(shí)踐的共同標(biāo)準(zhǔn)，如PSA Certified與PARSEC 等。由 Arm 等公司牽頭構(gòu)建的PSA Certified是一個(gè)全球項(xiàng)目，并積極地將安全最佳實(shí)踐大規(guī)模地應(yīng)用于設(shè)備。得益于安全框架和認(rèn)證計(jì)劃，PSA Certified 為原本非常分散的市場(chǎng)帶來(lái)了針對(duì)物聯(lián)網(wǎng)安全解決方案的整合。PSA Certified 對(duì)安全的信任根 (RoT) 的含義進(jìn)行了標(biāo)準(zhǔn)化，目前，包括 70 款芯片在內(nèi)的100 余個(gè)產(chǎn)品均采用了這一標(biāo)準(zhǔn)，為全球物聯(lián)網(wǎng)開(kāi)發(fā)者簡(jiǎn)化了建立在 RoT 基礎(chǔ)上的物聯(lián)網(wǎng)安全開(kāi)發(fā)。其中，包括阿里云、瑞芯微、恒玄、晶晨等多家中國(guó)企業(yè)都有產(chǎn)品通過(guò)PSA Certified安全認(rèn)證。安全的標(biāo)準(zhǔn)化對(duì)于生態(tài)系統(tǒng)的蓬勃發(fā)展是至關(guān)重要的，也是必不可少的。

在架構(gòu)創(chuàng)新方面，為了應(yīng)對(duì)保護(hù)全球數(shù)據(jù)的技術(shù)挑戰(zhàn)，Armv9 引入了 Arm機(jī)密計(jì)算架構(gòu) (Confidential Compute Architecture, CCA)。 CCA通過(guò)在基于硬件的安全環(huán)境中執(zhí)行計(jì)算，保護(hù)部分代碼和數(shù)據(jù)在使用時(shí)不被訪問(wèn)或修改，甚至不受特權(quán)軟件的影響。CCA 還引入動(dòng)態(tài)創(chuàng)建機(jī)密領(lǐng)域 (Realms) 的概念，機(jī)密領(lǐng)域面向所有應(yīng)用，運(yùn)行在獨(dú)立于安全或非安全環(huán)境之外的環(huán)境中，是存儲(chǔ)數(shù)據(jù)和執(zhí)行代碼的動(dòng)態(tài)安全區(qū)域，與操作系統(tǒng)或管理程序的特權(quán)模式分離，以實(shí)現(xiàn)保護(hù)數(shù)據(jù)安全的目的。例如，在商業(yè)應(yīng)用中，機(jī)密領(lǐng)域可以保護(hù)系統(tǒng)中商用機(jī)密數(shù)據(jù)和代碼，無(wú)論它們正被使用、閑置或正在傳輸中。Arm機(jī)密計(jì)算架構(gòu)建立在Arm TrustZone技術(shù)之上，是軟件容器的硬件版本，允許應(yīng)用程序輕松地在不同的系統(tǒng)上運(yùn)行。例如在非安全區(qū)的運(yùn)行的應(yīng)用程序可以動(dòng)態(tài)申請(qǐng)機(jī)密領(lǐng)域，以保護(hù)自己的算法或數(shù)據(jù)。

在 IP 實(shí)踐方面，Arm通過(guò)包括適用于 Cortex-A 與Cortex-M 的 Arm TrustZone 等產(chǎn)品組合令最終客戶可以放心部署從云到端的物聯(lián)網(wǎng)應(yīng)用。TrustZone 旨在保護(hù)敏感程序代碼和數(shù)據(jù)在 CPU 中的硬件強(qiáng)制隔離。作為建立 PSA-RoT 的起點(diǎn)之一，它可在同

一芯片內(nèi)提供安全（可信）和非安全（不可信）區(qū)域。TrustZone 在 2004年就已應(yīng)用于應(yīng)用級(jí)處理器，并于 2016 年被添加到 Cortex-M 系列中，成為在簡(jiǎn)單、低功耗的物聯(lián)網(wǎng)終端以及更復(fù)雜的設(shè)備中實(shí)現(xiàn)隔離的可行選擇。今年新推出的Arm Cortex-M85也搭載了 TrustZone 技術(shù)，以增強(qiáng)安全性。此外，它還包括了指針認(rèn)證和分支目標(biāo)識(shí)別 (Pointer Authentication and Branch Target Identification, PACBTI)，這一全新架構(gòu)功能具備增強(qiáng)的軟件攻擊威脅緩解能力，有助于實(shí)現(xiàn)物聯(lián)網(wǎng)部署的安全基線 PSA Certified Level 2。

在軟件賦能方面，Arm 在提供卓越的硬件安全功能的同時(shí)，也為一些關(guān)鍵的開(kāi)源軟件項(xiàng)目做出了貢獻(xiàn)，從而確保軟件開(kāi)發(fā)者能夠輕松且一致地訪問(wèn)和集成 PSA Certified 規(guī)定的關(guān)鍵基礎(chǔ)安全功能，這些功能也充分利用了 TrustZone等類似功能。

馬健強(qiáng)調(diào)：“Arm助力物聯(lián)網(wǎng)的方法旨是協(xié)助Arm的合作伙伴取得成功，以確保他們能夠參與定義全新的市場(chǎng)和經(jīng)濟(jì)，而物聯(lián)網(wǎng)將為全球企業(yè)帶來(lái)巨大的數(shù)據(jù)和洞察力。信任和安全是這個(gè)機(jī)會(huì)的基礎(chǔ)——而 Arm的生態(tài)系統(tǒng)已經(jīng)步上正確的道路，為新的物聯(lián)網(wǎng)經(jīng)濟(jì)鋪墊基石。”

完善的生態(tài)系統(tǒng)是AIoT產(chǎn)業(yè)良性循環(huán)的基礎(chǔ)

只有把AIoT這些關(guān)鍵技術(shù)和千行百業(yè)的具體應(yīng)用場(chǎng)景結(jié)合起來(lái)，才能激發(fā)它的真正活力，從Arm的角度來(lái)看，開(kāi)發(fā)者是促進(jìn)AIoT加速發(fā)展的關(guān)鍵因素之一。

目前由于物聯(lián)網(wǎng)硬件的碎片化，開(kāi)發(fā)者被迫花費(fèi)大量的時(shí)間和精力去做不同硬件平臺(tái)之間的底層適配工作，這些其實(shí)是不利于他們把精力和資源去開(kāi)發(fā)真正有價(jià)值和差異化的實(shí)際應(yīng)用。

為此，馬健表示：“Arm在大力推動(dòng)的物聯(lián)網(wǎng)全面解決方案、Arm虛擬硬件，以及生態(tài)系統(tǒng)項(xiàng)目，包括針對(duì) Cortex-A應(yīng)用處理器的Project Cassini和針對(duì)Cortex-M嵌入式處理器的Project Centauri，就是呼吁大家一起合力促進(jìn)開(kāi)放生態(tài)標(biāo)準(zhǔn)的建立，打通硬件平臺(tái)碎片化的壁壘，引進(jìn)更先進(jìn)的開(kāi)發(fā)模式和示范樣例（CI/CD、DevOps、MLOps等等），助力行業(yè)的積極健康發(fā)展?！?/p>

寫(xiě)在最后

新冠流行、全球變暖等全球或區(qū)域范圍的社會(huì)議題都在促使著各行各業(yè)不斷應(yīng)用最新的技術(shù)，來(lái)不斷加強(qiáng)與世界人民息息相關(guān)的安全支柱，包括：食物、醫(yī)療保健、環(huán)境保護(hù)、人身安全、社區(qū)安全等。

馬健認(rèn)為：“2023年將見(jiàn)證人工智能物聯(lián)網(wǎng)被應(yīng)用于解決最緊迫的全球挑戰(zhàn)，諸如智慧農(nóng)業(yè)、智慧醫(yī)療、智慧環(huán)保等方面。”

同時(shí)，她還強(qiáng)調(diào)：“人工智能物聯(lián)網(wǎng)的豐富應(yīng)用需要倚靠軟硬件技術(shù)棧提供的基本功能，而Arm已經(jīng)準(zhǔn)備就緒，從可支持各種AIoT芯片組合的豐富處理器與系統(tǒng)IP，到包括編譯器、工具鏈、操作系統(tǒng)，以及AI框架與模型算法優(yōu)化的強(qiáng)大生態(tài)系統(tǒng)，再到通過(guò)Arm虛擬硬件引入現(xiàn)代化的開(kāi)發(fā)方式，提供友好的賦能開(kāi)發(fā)者機(jī)制，Arm與生態(tài)伙伴正在共同推進(jìn)人工物聯(lián)網(wǎng)的加速落地，實(shí)現(xiàn)更豐富的應(yīng)用創(chuàng)新?！?/p>