NVIDIA CEO 黃仁勛發(fā)布面向各行各業(yè)的生成式 AI 平臺(tái)

黃仁勛在 COMPUTEX 主題演講上展示了多個(gè)新系統(tǒng)，軟件及服務(wù)，以充分利用這個(gè)時(shí)代最具變革性的技術(shù) —— 生成式 AI 。其中，多數(shù)產(chǎn)品由 Grace Hopper 超級(jí)芯片提供支持

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在本次主題演講中發(fā)布了多個(gè)平臺(tái)。通過(guò)這些平臺(tái)，企業(yè)可以把握住這一歷史性的生成式 AI 浪潮，以革新廣告、制造、電信等行業(yè)。

在近兩個(gè)小時(shí)的演講中，他介紹了加速計(jì)算服務(wù)、軟件和系統(tǒng)，它們正在推動(dòng)實(shí)現(xiàn)新業(yè)務(wù)模式和提高當(dāng)前業(yè)務(wù)模式效率。

黃仁勛表示，“加速計(jì)算和 AI 標(biāo)志著計(jì)算的革新”。

為了展示它的力量，他展示了一個(gè)文本提示，為他的主題演講生成一首主題曲，可以像任何卡拉 OK 曲調(diào)一樣演唱。

“我們現(xiàn)在正處于一個(gè)全新計(jì)算時(shí)代的轉(zhuǎn)折點(diǎn)，加速計(jì)算和 AI 已經(jīng)被世界上幾乎所有的計(jì)算和云公司所采用，” 他表示，如今有 40,000 家大公司和 15,000 家初創(chuàng)公司使用 NVIDIA 技術(shù)，僅去年一年，CUDA 軟件的下載量就達(dá)到 2,500 萬(wàn)次。

重磅發(fā)布亮點(diǎn)回顧

• Grace Hopper支持用于運(yùn)行生成式 AI 的大內(nèi)存超級(jí)計(jì)算機(jī)。
• 模塊化參考架構(gòu)推動(dòng)實(shí)現(xiàn) 100 多種加速服務(wù)器配置。
• WPP 和 NVIDIA 在 Omniverse 中創(chuàng)建數(shù)字廣告內(nèi)容引擎。
• 網(wǎng)絡(luò)技術(shù)加速基于以太網(wǎng)的 AI 云。
• NVIDIA ACE 游戲開發(fā)版通過(guò)生成式 AI 令游戲角色栩栩如生。
• 世界各地的電子制造商采用 NVIDIA AI。

新的企業(yè) AI 引擎

黃仁勛發(fā)布了能夠?yàn)槠髽I(yè)提供超強(qiáng) AI 性能的 DGX GH200 大內(nèi)存 AI 超級(jí)計(jì)算機(jī)。通過(guò) NVIDIA NVLink，這臺(tái)超級(jí)計(jì)算機(jī)將多達(dá) 256 塊 NVIDIA GH200 Grace Hopper 超級(jí)芯片整合到一個(gè)數(shù)據(jù)中心大小的 GPU 中。

黃仁勛宣布，GH200 超級(jí)芯片現(xiàn)已全面投產(chǎn)，它將節(jié)能的 NVIDIA Grace CPU 與高性能的 NVIDIA H100 Tensor Core GPU 整合到一個(gè)超級(jí)芯片中。

DGX GH200 提供 1 exaflop 性能與 144 TB 共享內(nèi)存，比單個(gè)NVIDIA DGX A100 320GB系統(tǒng)高出近500倍。這讓開發(fā)者可以構(gòu)建用于生成式AI聊天機(jī)器人的大型語(yǔ)言模型、用于推薦系統(tǒng)的復(fù)雜算法，以及用于欺詐檢測(cè)和數(shù)據(jù)分析的圖形神經(jīng)網(wǎng)絡(luò)。

谷歌云、Meta和微軟是首批有望接入DGX GH200的企業(yè)，它們將探索這臺(tái)超級(jí)計(jì)算機(jī)在生成式AI工作負(fù)載方面的能力。

NVIDIA DGX GH200 AI超級(jí)計(jì)算機(jī)為生成式AI工作負(fù)載提供1 exaflop性能

黃仁勛表示：“DGX GH200 AI超級(jí)計(jì)算機(jī)集成了NVIDIA最先進(jìn)的加速計(jì)算和網(wǎng)絡(luò)技術(shù)來(lái)拓展AI的前沿領(lǐng)域?！?/p>

NVIDIA正在建造自己的大規(guī)模AI超級(jí)計(jì)算機(jī)NVIDIA Helios。這臺(tái)超級(jí)計(jì)算機(jī)將于今年上線，它將使用四個(gè)與NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò)相連的DGX GH200系統(tǒng)，可提供訓(xùn)練大型AI模型所需要的數(shù)據(jù)吞吐量。

在本次大會(huì)上發(fā)布的數(shù)百個(gè)使用NVIDIA系統(tǒng)中，DGX GH200最為矚目。這些系統(tǒng)將共同為數(shù)百萬(wàn)用戶帶來(lái)生成式AI和加速計(jì)算。

黃仁勛宣布，將有超過(guò)400種采用NVIDIA 最新版本Hopper，Grace，Ada Lovelace和BlueField架構(gòu)的系統(tǒng)上市。這些系統(tǒng)將被用于解決AI，數(shù)據(jù)科學(xué)和高性能計(jì)算領(lǐng)域的復(fù)雜挑戰(zhàn)。

各種規(guī)模的加速

為了滿足各種規(guī)模數(shù)據(jù)中心的需求，黃仁勛發(fā)布了一個(gè)用于創(chuàng)建加速服務(wù)器的模塊化參考架構(gòu)NVIDIA MGX。系統(tǒng)制造商將使用該架構(gòu)快速、經(jīng)濟(jì)地構(gòu)建100多種不同的服務(wù)器配置，滿足各種AI、HPC和NVIDIA Omniverse應(yīng)用的需求。

憑借MGX，制造商能夠使用通用架構(gòu)和模塊化組件構(gòu)建CPU和加速服務(wù)器。MGX支持NVIDIA全部GPU、CPU、DPU和網(wǎng)絡(luò)適配器系列，以及各種風(fēng)冷、液冷機(jī)箱的X86和Arm處理器。

眾多制造商宣布將使用MGX創(chuàng)造新一代加速計(jì)算機(jī)。

Grace Hopper推動(dòng)5G/6G發(fā)展

黃仁勛表示，NVIDIA 正在助力塑造未來(lái)5G、 6G 無(wú)線和視頻通信。演講中展示了通過(guò)Grace Hopper 上運(yùn)行的 AI ，將當(dāng)今的 2D 視頻通話轉(zhuǎn)變?yōu)楦普娴?3D體驗(yàn) ，轉(zhuǎn)換后的臨場(chǎng)感令人驚嘆。

黃仁勛宣布， NVIDIA 正在與電信巨頭軟銀合作，在日本建立分布式數(shù)據(jù)中心網(wǎng)絡(luò)，為提供新型服務(wù)奠定基礎(chǔ)。它將在通用云平臺(tái)上提供 5G 服務(wù)和生成式AI應(yīng)用程序。

這些數(shù)據(jù)中心將使用模塊化MGX系統(tǒng)中的NVIDIA GH200超級(jí)芯片和NVIDIA BlueField-3 DPU以及NVIDIA Spectrum以太網(wǎng)交換機(jī)提供5G協(xié)議所需的高精度計(jì)時(shí)。該平臺(tái)將通過(guò)提高頻譜效率來(lái)降低成本和能耗。

這些系統(tǒng)將幫助軟銀探索5G和6G在自動(dòng)駕駛、AI工廠、增強(qiáng)和虛擬現(xiàn)實(shí)、計(jì)算機(jī)視覺以及數(shù)字孿生方面的應(yīng)用，未來(lái)甚至可能被用于3D視頻會(huì)議、全息通信等。

加速云網(wǎng)絡(luò)

此外，黃仁勛發(fā)布了專門用于提高以太網(wǎng)AI云性能和效率的網(wǎng)絡(luò)平臺(tái)NVIDIA Spectrum-X。該平臺(tái)將Spectrum-4以太網(wǎng)交換機(jī)與BlueField-3 DPU和軟件相結(jié)合，相較于傳統(tǒng)的以太網(wǎng)結(jié)構(gòu)，AI性能和電源效率提高了1.7倍。

NVIDIA Spectrum-X 可加速在傳統(tǒng)以太網(wǎng)網(wǎng)絡(luò)上可能會(huì)出現(xiàn)性能損失的 AI 工作流程

令游戲角色栩栩如生

生成式AI也影響著人們玩游戲的方式。

黃仁勛發(fā)布了NVIDIA Avatar Cloud Engine（ACE）游戲開發(fā)版。開發(fā)者可以使用這項(xiàng)代工服務(wù)構(gòu)建和部署定制化的語(yǔ)音、對(duì)話和動(dòng)畫AI模型。該引擎將賦予非玩家角色（NPC）對(duì)話技能，使他們能夠以進(jìn)化出的逼真?zhèn)€性回答問題。

NVIDIA ACE游戲開發(fā)版包含NVIDIA Riva等AI基礎(chǔ)模型，可檢測(cè)并轉(zhuǎn)錄玩家的語(yǔ)音。NVIDIA NeMo可根據(jù)文本提示生成定制化的回答并通過(guò)NVIDIA Omniverse Audio2Face實(shí)現(xiàn)動(dòng)畫化。

NVIDIA ACE 游戲開發(fā)版提供了一整套使令角色栩栩如生的生成式 AI工具

加速Windows上的生成式AI

黃仁勛介紹了NVIDIA和微軟如何在生成式AI時(shí)代一同推動(dòng)Windows PC的創(chuàng)新。

使用全新的和經(jīng)過(guò)強(qiáng)化的工具、框架和驅(qū)動(dòng)程序，PC開發(fā)者可以更加輕松地開發(fā)和部署AI。例如用于優(yōu)化和部署GPU加速AI模型的Microsoft Olive工具鏈，以及新的圖形驅(qū)動(dòng)程序，將大幅提升配備NVIDIA GPU的Windows PC上的DirectML性能。

這項(xiàng)合作將加強(qiáng)1億臺(tái)配備RTX GPU的PC性能，并繼續(xù)擴(kuò)大設(shè)備數(shù)量。這些GPU中的Tensor Core可大幅提升400多個(gè)AI加速Windows應(yīng)用和游戲的性能。

推動(dòng)全球最大行業(yè)實(shí)現(xiàn)數(shù)字化

生成式AI為價(jià)值7,000億美元的數(shù)字廣告行業(yè)帶來(lái)新的機(jī)遇。

例如，全球最大的營(yíng)銷服務(wù)機(jī)構(gòu)WPP正與NVIDIA一起在Omniverse Cloud上構(gòu)建首個(gè)生成式AI內(nèi)容引擎。

黃仁勛在一段演示中展示了創(chuàng)作團(tuán)隊(duì)將如何連接他們的3D設(shè)計(jì)工具（如Adobe Substance 3D）并在NVIDIA Omniverse中構(gòu)建客戶產(chǎn)品的數(shù)字孿生。然后，他們可以憑借在來(lái)源可信的數(shù)據(jù)上訓(xùn)練并使用NVIDIA Picasso構(gòu)建的生成式AI工具所提供的內(nèi)容，快速制作出虛擬場(chǎng)景。

WPP客戶可以使用制作完畢的場(chǎng)景生成大量廣告、視頻和3D體驗(yàn)，供全球市場(chǎng)和用戶在任何網(wǎng)絡(luò)設(shè)備上使用。

工廠鑄就AI的未來(lái)

據(jù)估計(jì)，價(jià)值46萬(wàn)億美元的制造業(yè)有1,000萬(wàn)家工廠，它們是工業(yè)數(shù)字化的重點(diǎn)領(lǐng)域。

黃仁勛表示：“全球最大的工業(yè)制造的都是實(shí)物。如果能夠先以數(shù)字方式制造這些產(chǎn)品，就可以節(jié)省數(shù)十億美元。”

此次主題演講展示了多家電子制造商如何利用NVIDIA技術(shù)打造數(shù)字化流程，實(shí)現(xiàn)全數(shù)字化智能工廠的愿景。

這些企業(yè)通過(guò)Omniverse和生成式AI 的API接口，以連接他們的設(shè)計(jì)和制造工具，從而構(gòu)建工廠數(shù)字孿生。他們還使用NVIDIA Isaac Sim模擬和測(cè)試機(jī)器人，并使用視覺AI框架NVIDIA Metropolis實(shí)現(xiàn)光學(xué)檢測(cè)的自動(dòng)化。

最新組件NVIDIA Metropolis for Factories可以創(chuàng)建定制化的質(zhì)控系統(tǒng)，為制造商帶來(lái)競(jìng)爭(zhēng)優(yōu)勢(shì)。該組件正在幫助企業(yè)開發(fā)先進(jìn)的AI應(yīng)用。

使用AI加速裝配線

例如，在全球生產(chǎn)筆記本電腦、智能手機(jī)等300種產(chǎn)品的和碩，正在使用Omniverse、Isaac Sim和Metropolis創(chuàng)建虛擬工廠。該公司能夠在虛擬工廠中的模擬環(huán)境測(cè)試各種流程，為其節(jié)省了時(shí)間和成本。

和碩還使用NVIDIA DeepStream軟件開發(fā)套件開發(fā)智能視頻應(yīng)用，將吞吐量提高了10倍。

富士康工業(yè)互聯(lián)網(wǎng)是這家全球超大技術(shù)制造商的服務(wù)部門，該部門攜手NVIDIA Metropolis合作伙伴，一起實(shí)現(xiàn)其電路板質(zhì)控檢查點(diǎn)重要環(huán)節(jié)的自動(dòng)化。

黃仁勛在一段視頻中展示了廣達(dá)的子公司Techman Robot如何使用NVIDIA Isaac Sim優(yōu)化其生產(chǎn)線上的檢測(cè)。實(shí)際上，這是在使用模擬機(jī)器人，來(lái)訓(xùn)練機(jī)器人制造出更好的機(jī)器人。

此外，黃仁勛還發(fā)布了一個(gè)新平臺(tái)，以支持下一代自主移動(dòng)機(jī)器人 (AMR) 車隊(duì)。 Isaac AMR 可以幫助模擬、部署和管理自主移動(dòng)機(jī)器人車隊(duì)。