加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 大廠競速,降低數(shù)字人落地門檻
    • 背后技術(shù)能力并不簡單
    • 2700億市場如何把握?
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

讓數(shù)字人出圈的技術(shù)秘籍,華為率先公開了

2022/11/08
1451
閱讀需 11 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

在剛剛結(jié)束的2022華為開發(fā)者大會(HDC2022)上,升級版的手語數(shù)字人再次亮相,為大會的主題演講進(jìn)行了實時翻譯。

相較去年HDC,手語數(shù)字人不僅在形象上有了優(yōu)化,覆蓋手語詞匯量更是提高到了2萬+,還能支持多達(dá)26種面部表情和準(zhǔn)確的口動,在需要的時候?qū)崿F(xiàn)恰當(dāng)?shù)那榫w化表達(dá),大大提高了手語的可懂度。

這樣一個會手語的數(shù)字人,已不僅限于連續(xù)兩年在華為開發(fā)者大會上“嶄露頭角”了。其實在政府網(wǎng)站、學(xué)校和移動應(yīng)用等場景,手語數(shù)字人也已經(jīng)逐漸上崗。

實際上,制作一個精良的數(shù)字人并不簡單,如果要求高度定制化,技術(shù)門檻只會更上一個臺階。

這也導(dǎo)致當(dāng)下數(shù)字人頗有種大廠“奢侈品”的味道。

畢竟,并非所有人都能承擔(dān)起如此高昂費用和制作復(fù)雜度,以手語數(shù)字人為例,需求很大一部分來自于學(xué)校、公益機(jī)構(gòu)等。

而在這些現(xiàn)象背后,其實還隱藏著數(shù)字人在制作、應(yīng)用落地方面的一連串難題。

大廠競速,降低數(shù)字人落地門檻

想要探尋數(shù)字人的落地瓶頸,還需從它的生產(chǎn)制作流程看起。

制作數(shù)字人的流程,可以分為建模、驅(qū)動和渲染三個階段。

建模即搭起數(shù)字人的“基礎(chǔ)骨架模型”,驅(qū)動負(fù)責(zé)讓模型“動起來像人”,渲染則負(fù)責(zé)讓模型“看起來像人”。

聽起來不難,但在傳統(tǒng)的數(shù)字人制作流程中,每一階段都面臨操作繁雜、算法門檻高、開發(fā)周期長的問題,成本更是大型企業(yè)才負(fù)擔(dān)得起。

極高的制作門檻,和數(shù)字人主打的“服務(wù)場景”卻并不匹配。

像銀行、政務(wù)服務(wù)、直播間、景點導(dǎo)覽、學(xué)校等需求方,往往不具備獨立開發(fā)制作數(shù)字人的技術(shù)能力,能承受的制作成本更是相對有限。

這種情況下,不少科技廠商如華為競相涉足數(shù)字人領(lǐng)域的研發(fā),力圖降低每個制作階段的技術(shù)門檻。

在建模上,傳統(tǒng)方式往往要利用多方位攝像頭,對模特們打點掃描,采集說話時唇部、表情、面部肌肉、肢體細(xì)節(jié)和姿態(tài)等身體數(shù)據(jù),隨后按照需求設(shè)計建模,如卡通風(fēng)、超寫實風(fēng)格等。

BUT,這背后需要的工作量非常大,而且需要專業(yè)人員操作。

相比之下,目前已經(jīng)有更多AI算法來降低3D建模門檻,也適配不同的數(shù)字人風(fēng)格。

在本次HDC上,華為就展示了一套高效的3D卡通數(shù)字人建模服務(wù),能夠幫助開發(fā)者快速構(gòu)建自定義的3D卡通數(shù)字人資產(chǎn)?;跇I(yè)界前沿的全屬性特征識別和多模態(tài)基模融合兩大核心技術(shù),只需要1張照片,AI算法1秒鐘就能生成一個活靈活現(xiàn)的卡通風(fēng)格數(shù)字人,甚至連身體都能建模好。

全屬性特征識別技術(shù)能夠?qū)Πl(fā)型、眼形、眉形、胡子和眼鏡等面部主要屬性迅速而精準(zhǔn)地識別,每個部分又可細(xì)化到常見的特征,如單雙眼皮、卷直發(fā)等,實現(xiàn)美與像的平衡。

值得一提的是,這樣的神經(jīng)網(wǎng)絡(luò)模型非常輕量,大小僅在KB級別(不到1MB),推理時間更是達(dá)到毫秒級,大部分情況下識別準(zhǔn)確率超90%;

而如何在毫秒級時間內(nèi),僅憑一張照片就“拼”出最合適的卡通化人臉,同時換上最合適的風(fēng)格,則是多模態(tài)基模融合技術(shù)的能力。

依托大量基礎(chǔ)幾何(1k+)和形狀素材(100+),配合百萬級的AI訓(xùn)練數(shù)據(jù),高效建模得以輕松實現(xiàn)。

△卡通化程度和風(fēng)格可自定義調(diào)節(jié)與轉(zhuǎn)換

通過3D卡通數(shù)字人建模服務(wù)和HMS Core手語服務(wù)的配合——無論是熱情活潑的手語老師,還是端莊親和的手語直播主持人,都能快速搞定。

建模完成后就是驅(qū)動和渲染了,讓模型不僅能像人一樣表情自然、肢體動作流暢,還能具備一定語言理解表達(dá)能力。

傳統(tǒng)平臺雖然有動作庫、降低人工制作難度,但最復(fù)雜的往往是兩個動作之間的過渡、以及將語音文本和表情逐幀對應(yīng)的過程。

目前有大廠已經(jīng)試圖在用算法搞定動作過渡,至于語音文本和表情對應(yīng)則可以用AI算法來降低工作量。

此次HDC,華為正式發(fā)布的HMS Core 3D Engine,不僅能進(jìn)行超大規(guī)模數(shù)字世界的實時渲染,對于數(shù)字人的驅(qū)動也專門提供了一套能搞定實時骨骼動畫、表情動畫、腳步/全身IK、布娃娃系統(tǒng)、動畫重定向、多重動畫融合的“工具包”。

3D Engine的動畫編輯器不僅支持創(chuàng)建多個動作狀態(tài)機(jī),而且還能對多個角色的動作進(jìn)行平滑過渡,解決數(shù)字人動作之間“不流暢”的問

除了單純的動作驅(qū)動,讓數(shù)字人具備理解表達(dá)能力,同樣是決定驅(qū)動真實性的一環(huán)。

HMS Core的手語服務(wù),用AI算法給數(shù)字人打開了“手語表達(dá)與理解”能力。

基于大量深度學(xué)習(xí)算法,讓模型學(xué)習(xí)語音、唇形、表情參數(shù)間的潛在映射關(guān)系,手語服務(wù)通過HMS Core 3D Engine驅(qū)動模型在接收到輸入信號時,自動做出對應(yīng)的動作。

建模和驅(qū)動之后,就來到最終的渲染部分。

傳統(tǒng)方法往往計算量極高,更別提直播場景中常見的實時渲染。

尤其是寫實數(shù)字人,為避免高時延,實時渲染往往選擇犧牲數(shù)字人的真實感,包括皮膚、頭發(fā)和眼睛等部位,想要打造真實感難度非常高,最后往往只能采用3D卡通數(shù)字人來完成實時直播。

在這種背景下,HMS Core的3D Engine在實現(xiàn)在實時渲染的同時,還盡可能還原寫實數(shù)字人真實的效果。利用3D Engine呈現(xiàn)出來的數(shù)字人,不僅能與場景進(jìn)行實時交互,在皮膚材質(zhì)、發(fā)絲仿真、眼球材質(zhì)等渲染上也足夠細(xì)致,這些細(xì)節(jié)直接影響了數(shù)字人的逼真程度。

皮膚材質(zhì)上通過次表面反射、雙葉高光對皮膚的光澤度和通透感實現(xiàn)了增強(qiáng),呈現(xiàn)出了更自然的皮膚效果。

在發(fā)絲上,則是通過實時物理模擬完成10萬+發(fā)絲運動,來增強(qiáng)頭發(fā)的陰影、半透明和高光渲染效果。

眼球還原上甚至精確到了虹膜、瞳孔、鞏膜、晶狀體折射率等,根據(jù)參數(shù)進(jìn)行調(diào)整。

整體來說,相較于傳統(tǒng)數(shù)字人制作流程,從降低門檻、提高易用性等維度出發(fā), HMS Core提出了一個更為簡易的數(shù)字人全流程解決方案。

背后技術(shù)能力并不簡單

其實,面臨數(shù)字人落地的難題和機(jī)遇,國內(nèi)外不少公司都在投入這一賽道角逐。

這其中既包括蘋果、Meta和英偉達(dá)等科技巨頭,也有Neon和DATAGRID等初創(chuàng)公司,憑借自身軟硬件優(yōu)勢“擴(kuò)張”在數(shù)字人行業(yè)的版圖。

在賽道玩家云集的情況下,華為降低用“人”成本的底氣何在?

一方面,在AI等技術(shù)上,華為這些年也在不斷地進(jìn)行研究和積累。

據(jù)華為介紹,在NeurIPS近五年來引用最多的50篇論文、以及ACL近五年來應(yīng)用最高的20篇論文中,都各自有一篇華為諾亞方舟實驗室的論文,同時ACL引用最高的30篇論文中,更是有3篇相關(guān)論文。

華為輪值董事長徐直軍,此前也透露過華為的AI研發(fā)數(shù)據(jù):僅2018一年,華為的AI研發(fā)投入就達(dá)到15億美元,研發(fā)團(tuán)隊更是超過5000人。

具體到內(nèi)容上,這些論文中就有不少像多模態(tài)技術(shù)這類與數(shù)字人息息相關(guān)的研究。

被ACM Multimedia 2022收錄的一篇新論文中,華為泊松實驗室就聯(lián)合人大高瓴人工智能學(xué)院提出了一種名叫MMTG的新模型,意圖讓AI看到圖文混雜的輸入時能理解它們的關(guān)聯(lián),并創(chuàng)作出新的文本,進(jìn)一步提升數(shù)字人的表達(dá)能力。

另一方面是獨特的應(yīng)用場景優(yōu)勢,作為鴻蒙生態(tài)的重要組成部分,HMS Core提供的一系列全面的端、云開放能力,為數(shù)字人在移動端乃至鴻蒙生態(tài)上的落地提供了有力的支持。

通過HMS Core 3D Engine和手語服務(wù)打造的手語數(shù)字人,已經(jīng)開放給暢聽無礙、知音等第三方App集成接入,實現(xiàn)在手機(jī)上的直接使用,為聽障人群帶來生活的便利。

2700億市場如何把握?

事實上,不止手語數(shù)字人,目前更多場景都面臨著使用數(shù)字人的情況。

據(jù)《量子位虛擬數(shù)字人白皮書》預(yù)測,2030年我國虛擬數(shù)字人市場規(guī)模將快速增長至2700億。

按需求場景劃分,主要有身份型虛擬人和服務(wù)型虛擬人。

身份型虛擬人即虛擬偶像、真人人偶分身等,服務(wù)型虛擬人的常見應(yīng)用場景有銀行、政務(wù)大廳、播音室等。

比如在銀行數(shù)字化轉(zhuǎn)型趨勢下,數(shù)字人銀行客服通過語音交互,就能以更貼近于傳統(tǒng)柜臺的方式,提供更加人性化便捷的服務(wù);

還有手語翻譯場景,我國聽障人群數(shù)量達(dá)到2700萬,但專業(yè)手語翻譯師的數(shù)量恐怕還不到1萬。3D手語數(shù)字人在彌補(bǔ)專業(yè)人才缺口的同時,也能快速普及國家通用手語。

目前,我們已經(jīng)能看到越來越多的數(shù)字人開始上崗工作,隨著華為等大廠的技術(shù)投入,其成本和使用門檻也在進(jìn)一步降低。

華為

華為

華為創(chuàng)立于1987年,是全球領(lǐng)先的ICT(信息與通信)基礎(chǔ)設(shè)施和智能終端提供商。目前華為約有19.7萬員工,業(yè)務(wù)遍及170多個國家和地區(qū),服務(wù)全球30多億人口。華為致力于把數(shù)字世界帶入每個人、每個家庭、每個組織,構(gòu)建萬物互聯(lián)的智能世界:讓無處不在的聯(lián)接,成為人人平等的權(quán)利,成為智能世界的前提和基礎(chǔ);為世界提供最強(qiáng)算力,讓云無處不在,讓智能無所不及;所有的行業(yè)和組織,因強(qiáng)大的數(shù)字平臺而變得敏捷、高效、生機(jī)勃勃;通過AI重新定義體驗,讓消費者在家居、出行、辦公、影音娛樂、運動健康等全場景獲得極致的個性化智慧體驗。

華為創(chuàng)立于1987年,是全球領(lǐng)先的ICT(信息與通信)基礎(chǔ)設(shè)施和智能終端提供商。目前華為約有19.7萬員工,業(yè)務(wù)遍及170多個國家和地區(qū),服務(wù)全球30多億人口。華為致力于把數(shù)字世界帶入每個人、每個家庭、每個組織,構(gòu)建萬物互聯(lián)的智能世界:讓無處不在的聯(lián)接,成為人人平等的權(quán)利,成為智能世界的前提和基礎(chǔ);為世界提供最強(qiáng)算力,讓云無處不在,讓智能無所不及;所有的行業(yè)和組織,因強(qiáng)大的數(shù)字平臺而變得敏捷、高效、生機(jī)勃勃;通過AI重新定義體驗,讓消費者在家居、出行、辦公、影音娛樂、運動健康等全場景獲得極致的個性化智慧體驗。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜