NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛,給COMPUTEX大會帶來了一場極具“松弛感”的主題演講?;氐匠錾氐乃?,不論是逛夜市、吃美食還是登臺演講,都顯得放松且親切。他在演講中不僅談到了自己的“夜市情結(jié)”,還回憶了童年的夜市“趣事”……
演講中,黃仁勛詳細介紹了新的芯片平臺、軟件和系統(tǒng),它們將為新型數(shù)據(jù)中心、工廠、消費級設(shè)備、機器人等提供助力,此外,降低成本和可持續(xù)增長的重要性也是他著重強調(diào)的一點。歷數(shù)了加速計算的種種好處后,黃仁勛再現(xiàn)“名場面”:the more you buy, the more you save.
“夜市情結(jié)”和成為行業(yè)的“AI工廠”
身家已經(jīng)超過900億美元的黃仁勛,在這次公開演講中談到了自己的“夜市情結(jié)”。據(jù)他回憶,大約四五歲,他就非常喜歡去夜市,因為他喜歡在那里觀察人群。有一次,有人洗刀不小心割傷了他的臉,這道傷疤一直留在了他的臉上……即便如此,夜市對他來說依然有著很大的吸引力,直到現(xiàn)在他都喜歡去。
黃仁勛“插播”這個小故事時正講到了ChatGPT的變革。人都會有某些特別的想法或意圖,不同于以往的計算機應(yīng)用,ChatGPT能夠清楚理解人的意圖,并且像人類一樣與之互動。
2016年,黃仁勛親手將世界上第一臺DGX-1超級計算機交給Open AI后,使得Transformer能夠基于巨大的數(shù)據(jù)集進行訓(xùn)練。直到2023年,ChatGPT橫空出世,業(yè)界現(xiàn)在開啟了由AI工廠驅(qū)動的新產(chǎn)業(yè)革命。
黃仁勛談到,幾乎每天都有新的AI模型被發(fā)明,且每一個行業(yè)都在導(dǎo)入AI大模型應(yīng)用。3萬億美元的IT行業(yè),首次將創(chuàng)造能夠直接服務(wù)于100萬億美元產(chǎn)業(yè)的價值,它不再僅僅是信息存儲或數(shù)據(jù)處理的工具,而是為每個行業(yè)生成智能的AI工廠。
算力通貨膨脹不能再繼續(xù),加速計算實現(xiàn)可持續(xù)增長
這一切,如果沒有加速計算會怎么樣?
黃仁勛指出,兩件根本性的事情在發(fā)生:第一,中央處理單元(CPU)——計算機行業(yè)運行的核心部件,其性能擴展已經(jīng)大幅放緩;第二,我們不得不進行的計算量,仍然在非常迅速地呈指數(shù)級翻倍。
“處理需求指數(shù)級增長,而性能卻沒有跟上,我們正在經(jīng)歷計算能力的通貨膨脹。全世界數(shù)據(jù)中心的電力在大幅增長,計算成本正在上升,這種情況不能繼續(xù)下去。這也是為什么,近二十年來,我們一直在致力于加速計算”,黃仁勛表示,“我們應(yīng)該加速一切,每一個處理密集型的應(yīng)用都將被加速。”
NVIDIA通過CPU與GPU的組合實現(xiàn)了這一點。由GPU加速所實現(xiàn)的100個時間單位的節(jié)約,也就是實現(xiàn)100倍速度的提升,相應(yīng)所需付出的是3倍功耗、1.5倍成本。此處黃仁勛再次加入了那句經(jīng)典廣告詞“The more you buy…The more you save”,他強調(diào),加速計算可顯著節(jié)約成本和能源,實現(xiàn)可持續(xù)的增長。
Blackwell——新產(chǎn)業(yè)革命的引擎
黃仁勛在演講中提到,偉大的智慧是退后一步。在生成式AI的熱潮來臨之前,他需要思考:人工智能的背景是什么?深度學(xué)習(xí)的基礎(chǔ)是什么?長期的影響是什么?它的潛力是什么?……
當(dāng)他意識到這項技術(shù)有很大的潛力去擴展一個算法實現(xiàn)的時候,他認為這將需要更多的數(shù)據(jù)、更大規(guī)模的網(wǎng)絡(luò),非常重要的是——更多的計算能力,而Blackwell就是為了這一代AI而設(shè)計的。
Computex期間,NVIDIA與全球多家計算機制造商發(fā)布一系列采用Blackwell 架構(gòu)的系統(tǒng),這些系統(tǒng)搭載了Grace CPU 以及 NVIDIA 網(wǎng)絡(luò)和基礎(chǔ)設(shè)施。永擎電子、華碩、技嘉、鴻佰科技、英業(yè)達、和碩、QCT、Supermicro、緯創(chuàng)資通和緯穎將使用 NVIDIA GPU 和網(wǎng)絡(luò)打造云、專用系統(tǒng)、嵌入式和邊緣 AI 系統(tǒng)。
黃仁勛表示,“從服務(wù)器、網(wǎng)絡(luò)和基礎(chǔ)設(shè)施制造商到軟件開發(fā)商,整個行業(yè)正在準(zhǔn)備使用 Blackwell 來加速各個領(lǐng)域?qū)崿F(xiàn) AI 驅(qū)動的創(chuàng)新?!?/p>
為了滿足各類應(yīng)用的需求,所發(fā)布的產(chǎn)品配置非常豐富,涵蓋了從單 GPU 到多 GPU、從 x86到Grace、從風(fēng)冷到液冷技術(shù)等。
此外,為了加快不同規(guī)模和配置的系統(tǒng)開發(fā),NVIDIA MGX 模塊化參考設(shè)計平臺加入了對 NVIDIA Blackwell 產(chǎn)品的支持,包括全新 NVIDIA GB200 NVL2 平臺,該平臺專為主流大語言模型推理、檢索增強生成和數(shù)據(jù)處理提供卓越的性能而打造。借助 NVLink-C2C 互連技術(shù)帶來的高帶寬內(nèi)存性能和Blackwell 架構(gòu)中專有的解壓縮引擎,較使用x86 CPU時數(shù)據(jù)處理速度可提速最多達18倍,能效提高了8倍。
值得一提的是,AMD和英特爾都支持MGX 架構(gòu),并首次計劃打造基于他們自己 CPU 主機處理器的模塊設(shè)計,其中包括下一代 AMD Turin 平臺和基于P核心的第六代英特爾至強處理器(原 Granite Rapids)。服務(wù)器系統(tǒng)廠商可以借助這些參考設(shè)計節(jié)省開發(fā)時間,并確保設(shè)計和性能的一致性。
“人工智能的出現(xiàn)之所以成為可能,是因為我們有這樣一種堅定的信念:如果我們使計算成本越來越低,總會有人實現(xiàn)它的偉大用途。如今,我們已經(jīng)實現(xiàn)了一個循環(huán):部署基礎(chǔ)在增長、計算成本在下降,這驅(qū)動更多的開發(fā)者提出更多的創(chuàng)意,從而推動了更多的需求……現(xiàn)在我們正處于一個非常重要、非常重要的開始階段”,他強調(diào)。
在Blackwell出現(xiàn)之前,Hopper平臺可能是歷史上最成功的數(shù)據(jù)中心處理器。但是對于生成式AI應(yīng)用來說, NVIDIA構(gòu)建了整個包括CPU、GPU、網(wǎng)絡(luò)連接等在內(nèi)的平臺,使Blackwell成為了新的產(chǎn)業(yè)引擎。
“8年內(nèi),我們使用Blackwell,將原本的1000千兆瓦時減少到了3千瓦時,這是一個令人難以置信的進步”,黃仁勛表示,“我們不會就此止步。在這種難以置信的增長期間,我們要確保繼續(xù)提高性能、繼續(xù)降低訓(xùn)練成本、推理成本,并繼續(xù)擴大AI能力,讓每個公司都擁抱它?!?/p>
公布最新路線圖,回應(yīng)網(wǎng)絡(luò)平臺演進方向
“我們公司的更新節(jié)奏是以年為單位。我們的基本理念非常簡單:打造數(shù)據(jù)中心規(guī)模,以每年的節(jié)奏分步驟實現(xiàn)、并向客戶交付產(chǎn)品,在各個領(lǐng)域?qū)崿F(xiàn)技術(shù)突破,”黃仁勛解釋道。
他“劇透”了最新的技術(shù)路線圖,該路線圖將每年更新。根據(jù)這一發(fā)布,我們可以看到NVIDIA將在明年推出增強版Blackwell Ultra GPU(配備8S HBM3e 12H)和Spectrum Ultra X800(Ethernet Switch 512 Radix)。
繼加速計算能力的比拼之外,很顯然,網(wǎng)絡(luò)正在成為新的競爭焦點,特別是在以太網(wǎng)方面,多家行業(yè)巨頭正在結(jié)成聯(lián)盟。對于NVIDIA來說,其網(wǎng)絡(luò)平臺除了要考慮配合GPU的升級,同時也要面臨業(yè)界的激烈競爭。這將如何推動NVIDIA網(wǎng)絡(luò)平臺的演進?核心的競爭點是什么?
對此,NVIDIA對<與非網(wǎng)>進行了回應(yīng):為了滿足行業(yè)對性能的強烈需求,NVIDIA 計劃每年推出新的Spectrum-X 產(chǎn)品,提供更高的帶寬和端口,以及增強的軟件功能集和可編程性,以推動領(lǐng)先的AI以太網(wǎng)網(wǎng)絡(luò)性能。NVIDIA持續(xù)的性能改進節(jié)奏將建立在一系列關(guān)鍵創(chuàng)新之上,例如:自適應(yīng)路由、擁塞控制和高頻遙測等,這些創(chuàng)新加快了訓(xùn)練時間,同時還提供了噪聲隔離、彈性和可編程性等優(yōu)勢。
NVIDIA方面強調(diào),這些功能是他們所獨有的,依賴于Spectrum交換機和NVIDIA BlueField 或 ConnectX SuperNIC 的專業(yè)化和差異化架構(gòu),同時保持完全以太網(wǎng)兼容,從而實現(xiàn)與現(xiàn)有數(shù)據(jù)中心基礎(chǔ)設(shè)施的無縫集成。
此外,黃仁勛首次透露了Blackwell 的下一代平臺Rubin。預(yù)計2026年推出的Rubin平臺,將配備新 GPU、基于Arm的新CPU——Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太網(wǎng)交換機的高級網(wǎng)絡(luò)平臺。
NVIDIA NIM讓數(shù)百萬人成為生成式AI開發(fā)者
在生成式AI推動的全棧重塑中,一個變革也在發(fā)生——計算機不再是我們使用的一個工具,它將具有生成AI的能力。
黃仁勛宣布,借助NVIDIA NIM推理微服務(wù),全球2800萬開發(fā)者都可以創(chuàng)建生成式AI應(yīng)用。NIM 還能幫助企業(yè)實現(xiàn)基礎(chǔ)設(shè)施投資的效果最大化。例如,與未使用NIM的情況相比,在NIM中運行 Meta Llama 3-8B 所能生成的加速基礎(chǔ)設(shè)施AI token可以提升3倍。
Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技術(shù)合作伙伴正將 NIM 集成到他們的平臺中,加快生成式 AI 部署到特定領(lǐng)域應(yīng)用中的速度,例如copilots、代碼助手、數(shù)字人虛擬形象等。從 Meta Llama 3 開始,在 Hugging Face上現(xiàn)已開始提供 NIM。
AI的下一波浪潮——物理AI
在演講進入尾聲時,黃仁勛強調(diào)了機器人和人工智能在未來發(fā)展中的重要性。他指出,“AI 的新一波浪潮是物理AI。AI能夠理解物理定律,并與人類并肩作戰(zhàn)。”
NVIDIA Isaac 平臺為開發(fā)者構(gòu)建AI機器人提供強大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超級計算機驅(qū)動的 AMR、工業(yè)機械臂和人形機器人。
黃仁勛也強調(diào)了NVIDIA Isaac在提高工廠和倉庫效率方面的作用,比亞迪電子、西門子、泰瑞達、Intrinsic 等企業(yè)都在使用 NVIDIA Isaac 的高級程序庫和 AI 模型。
“機器人將遍布所有工廠。工廠將實現(xiàn)對機器人的統(tǒng)籌,而這些機器人將制造新的機器人產(chǎn)品,”黃仁勛表示,“機器人和物理AI正在成為現(xiàn)實,而不僅是出現(xiàn)在科幻小說。”