NVIDIA 于今日發(fā)布新一代 NVIDIA GH200 Grace Hopper 平臺,該平臺基于全球首款搭載 HBM3e 處理器的 Grace Hopper 超級芯片,專為加速計算和生成式 AI 時代而構(gòu)建。
生成式AI市場呈現(xiàn)出無比廣闊的前景,而NVIDIA GH200 Grace Hopper平臺有將帶來更多的可能性。其專為處理大語言模型、推薦系統(tǒng)、矢量數(shù)據(jù)庫等全球最復(fù)雜的生成式 AI 工作負(fù)載而構(gòu)建,將提供多種配置選擇。
該平臺采用雙配置——提供的內(nèi)存容量和帶寬比當(dāng)前產(chǎn)品分別增加了 3.5 倍和 3 倍——包括一個擁有 144 個 Arm Neoverse 內(nèi)核、8 petaflops 的 AI 性能和 282GB 最新 HBM3e 內(nèi)存技術(shù)的單個服務(wù)器。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:“為了滿足對生成式 AI 不斷激增的需求,數(shù)據(jù)中心需要能夠滿足特定需求的加速計算平臺。全新 GH200 Grace Hopper 超級芯片平臺以出色的內(nèi)存技術(shù)和帶寬,提高了吞吐量,在不影響性能的情況下可連接多 GPU 以整合性能,并且具有可以輕松部署到整個數(shù)據(jù)中心的服務(wù)器設(shè)計?!?/p>
新平臺采用了 Grace Hopper 超級芯片,可以通過 NVIDIA NVLink 與其他超級芯片連接。
業(yè)界領(lǐng)先的制造商已在提供基于先前發(fā)布的 Grace Hopper 超級芯片所打造的系統(tǒng)。為了推動該技術(shù)的廣泛應(yīng)用,采用 HBM3e 的新一代 Grace Hopper 超級芯片平臺與今年早些時候在 COMPUTEX 上發(fā)布的 NVIDIA MGX 服務(wù)器規(guī)格完全兼容。借助 MGX,任何系統(tǒng)制造商都可以快速、經(jīng)濟地將 Grace Hopper 添加到 100 多款服務(wù)器機型中。
預(yù)計業(yè)界領(lǐng)先的系統(tǒng)制造商將于 2024 年第二季度開始交付搭載該平臺的系統(tǒng)。