345
3月1日，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行，再度引發(fā)業(yè)界對算法技術(shù)的探討。真?zhèn)坞y辨的AI換臉視頻、逼真的音視覺合成特效、火爆出圈的虛擬數(shù)字人……這些創(chuàng)新應(yīng)用皆標(biāo)志著AI算法的突飛猛進(jìn)，同時也成為了深度合成技術(shù)走入尋常百姓家的具體體現(xiàn)。
深度合成技術(shù)重新定義虛擬化數(shù)字生存空間
“深度合成技術(shù)，是利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)。” 瑞萊智慧副總裁唐家渝向《中國電子報》記者介紹說。
從該技術(shù)的正向應(yīng)用價值來看，作為當(dāng)前大熱的元宇宙概念中的一項關(guān)鍵技術(shù)，深度合成已被廣泛應(yīng)用于影視、音樂、科技、教育、生活、娛樂、咨詢等各個領(lǐng)域，需求場景趨于多元且成熟。比如北京冬奧會期間的手語AI解說小聰、登上春晚舞臺的虛擬偶像洛天依以及動畫、游戲中快速生成的人物形象等等。
“深度合成重新定義虛擬化數(shù)字的生存空間。” 瑞萊智慧CEO田天表示，“元宇宙是非?；鸨脑掝}，很多新應(yīng)用都在快速發(fā)展，但是在虛擬空間里關(guān)鍵的一點就是怎樣快速生成更多內(nèi)容的創(chuàng)作，特別是跟實體進(jìn)行虛實結(jié)合的，基于深度合成技術(shù)我們可以把制作時間和成本大大壓縮，可以豐富虛擬空間的內(nèi)容，可以為更加多元化的傳播提供可能性。所以，深度合成也是元宇宙發(fā)展過程中必不可少的支撐性技術(shù)。”
濫用深度合成技術(shù)危害不容忽視
然而，不容忽視的是，隨著技術(shù)門檻快速降低，通過深度合成技術(shù)制造虛假視頻、虛假語音進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為和事例也在不斷增多、危害性不斷增強(qiáng)，對社會國家安全，公司以及個人的名譽(yù)、財產(chǎn)造成等都會造成不可估量的損失。據(jù)悉，此前有不法分子通過偽造企業(yè)高管語音騙取3500萬美元，這樁“深度偽造第一大案”曾經(jīng)轟動一時。
“數(shù)字技術(shù)帶來的變化是深刻的。數(shù)字內(nèi)容的可重復(fù)性、持久性和全球影響力改變了欺騙的潛在規(guī)模和影響。”中國社會科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文指出，Deepfake（深度偽造）削弱了人們對信息和媒介的信任感，也會對人際關(guān)系產(chǎn)生影響。
近日，清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心聯(lián)合發(fā)布《深度合成十大趨勢報告（2022）》。報告開篇，中國科學(xué)院院士、清華大學(xué)人工智能研究院創(chuàng)始院長張鈸寫道：“與其他技術(shù)不同，由于人工智能的安全性問題主要來源于算法本身的不安全，它更容易被誤用和濫用。以深度合成技術(shù)為例，不法分子可以利用它給社會帶來巨大的威脅。”
他指出，未來人工智能產(chǎn)業(yè)的發(fā)展，一方面必須擴(kuò)大應(yīng)用的場景，另一方面也必須保證數(shù)據(jù)和算法的安全性、魯棒性。科技發(fā)展和應(yīng)用如何才能在最大程度上做到趨利避害，是一個需要長期探索和研究的課題。
深度合成技術(shù)漸入良性發(fā)展軌道
如今，信息網(wǎng)絡(luò)已經(jīng)深入到我們生活的各個角落，如果深度合成技術(shù)被無節(jié)制的濫用，我們的眼見、耳聞都不再為實，社會信任也將蕩然無存。因此，必須以法律的形式引導(dǎo)技術(shù)向善。2022年1月28日，國家網(wǎng)信辦最新公布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》（簡稱《深度合成征求意見稿》），為深度合成技術(shù)做出了一系列較為明確的規(guī)定和指引?？梢钥吹剑疃群铣杉夹g(shù)正在逐步邁入一條良性的發(fā)展軌道。
“處理Deepfake（深度偽造）沒有靈丹妙藥，需要采取多種應(yīng)對措施，包括技術(shù)、法律和更廣泛的社會措施。” 段偉文表示。對于深度合成服務(wù)提供者而言，應(yīng)當(dāng)加強(qiáng)信息內(nèi)容管理，采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，建立健全用于識別違法和不良深度合成信息內(nèi)容的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序，對違法和不良信息依法采取響應(yīng)處置措施，并對相關(guān)深度合成服務(wù)使用者依法約束采取警示、限制功能、暫停服務(wù)、關(guān)閉賬號等處置措施。
同時，還應(yīng)定期審核、評估、驗證算法機(jī)制機(jī)理，提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具，應(yīng)當(dāng)自行開展安全評估，預(yù)防信息安全風(fēng)險。
田天指出，希望國家加快推動法治建設(shè)，逐步完善配套的法規(guī)政策，但同時也要倡導(dǎo)發(fā)展自律自治，健全常態(tài)化的聯(lián)動機(jī)制，加強(qiáng)檢測相關(guān)技術(shù)研究與宣傳，推動形成全社會對深度合成共同治理的格局，鼓勵與促進(jìn)該技術(shù)更多的正向應(yīng)用、正向發(fā)展。
作者丨宋婧
編輯丨連曉東
美編丨馬利亞
