適用于大規(guī)模AI訓(xùn)練和推理的一站式數(shù)據(jù)存儲(chǔ)解決方案──數(shù)百PB的多層式解決方案提供能支持可擴(kuò)充式AI工作負(fù)載所需的龐大數(shù)據(jù)容量和高性能數(shù)據(jù)帶寬
Supermicro, Inc.(納斯達(dá)克股票代碼:SMCI)作為AI、云端、存儲(chǔ)和5G/邊緣領(lǐng)域的全方位IT解決方案制造商,推出適用于人工智能(AI)和機(jī)器學(xué)習(xí)(ML)數(shù)據(jù)存取的完整優(yōu)化解決方案,覆蓋從數(shù)據(jù)收集到高性能數(shù)據(jù)傳輸的各個(gè)環(huán)節(jié)。此全新解決方案能通過將GPU數(shù)據(jù)傳輸管道完全利用使AI價(jià)值實(shí)現(xiàn)時(shí)間最小化。在AI訓(xùn)練方面,該解決方案可收集、轉(zhuǎn)換大量PB級(jí)原始資料,并加載到企業(yè)AI工作流程管道。這種多層式Supermicro解決方案通過證實(shí)可在生產(chǎn)制造環(huán)境中為人工智能運(yùn)營(AIOps)和機(jī)器學(xué)習(xí)運(yùn)營(MLOps)提供PB規(guī)模級(jí)數(shù)據(jù)量。Supermicro的多機(jī)柜級(jí)解決方案旨在降低落地風(fēng)險(xiǎn),讓組織能更快速地訓(xùn)練模型,并迅速將處理后的數(shù)據(jù)應(yīng)用到AI推理。
Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)表示:“通過由每機(jī)柜20 PB高性能快閃存儲(chǔ)容量所驅(qū)動(dòng)并搭載四個(gè)專為應(yīng)用優(yōu)化的NVIDIA HGX H100 8-GPU的氣冷服務(wù)器或搭載八個(gè)NVIDIA HGX H100 8-GPU的液冷服務(wù)器,客戶能以機(jī)柜規(guī)模加速AI和ML應(yīng)用運(yùn)行。此項(xiàng)解決方案能為每個(gè)存儲(chǔ)叢集提供270 GB/s的讀取吞吐量和390萬IOPS做為最低部署,并輕松擴(kuò)大至數(shù)百PB的規(guī)模。借由使用具有PCIe 5.0與E3.S存儲(chǔ)裝置,以及WEKA Data Platform軟件的最新Supermicro系統(tǒng),這項(xiàng)通過場(chǎng)域測(cè)試的機(jī)柜級(jí)解決方案將可為使用者帶來AI 應(yīng)用性能的大幅提升。有了此項(xiàng)適用于 AI 訓(xùn)練的全新存儲(chǔ)解決方案,客戶將能完全發(fā)揮我們最先進(jìn)GPU服務(wù)器機(jī)柜級(jí)解決方案的使用潛能,進(jìn)而降低總擁有成本(TCO)并時(shí)提高AI性能?!?/p>
為了使GPU有成效地運(yùn)行,具備低延遲、高帶寬數(shù)據(jù)處理性能的GPU服務(wù)器必須要能存取用于大規(guī)模 AI 訓(xùn)練運(yùn)行的未結(jié)構(gòu)化PB量級(jí)數(shù)據(jù)。Supermicro擁有基于Intel和AMD技術(shù)的廣泛存儲(chǔ)服務(wù)器產(chǎn)品組合,是AI管道必不可少的要素。這些產(chǎn)品包括Supermicro Petascale All-Flash存儲(chǔ)服務(wù)器,其中每部服務(wù)器擁有983.04* TB的NVMe Gen 5快閃數(shù)據(jù)容量,可提供高達(dá)230 GB/s的讀取帶寬和3,000萬IOPS。本解決方案還包括適用于容量物件層級(jí)并具備90個(gè)存儲(chǔ)硬盤槽的Supermicro SuperServer存儲(chǔ)服務(wù)器。全球客戶已可取得此經(jīng)過測(cè)試的完善解決方案并用于ML、GenAI和其他復(fù)雜計(jì)算的工作負(fù)載。
全新存儲(chǔ)解決方案包含:
- All-Flash層級(jí) - Supermicro Petascale Storage Servers
- 應(yīng)用層級(jí) - Supermicro 8U GPU服務(wù)器:AS -8125GS-TNHR 和 SYS-821GE-TNHR
- 物件層級(jí) - Supermicro 90 drive bay 4U SuperStorage Server,運(yùn)行Quantum ActiveScale物件存儲(chǔ)
- 軟件:WEKA Data Platform和Quantum ActiveScale物件存儲(chǔ)
- 交換機(jī):Supermicro InfiniBand 和以太網(wǎng)絡(luò)交換機(jī)
WEKA總裁Jonathan Martin表示:“具高性能和高度快閃數(shù)據(jù)容量的Supermicro PB級(jí)All-Flash存儲(chǔ)服務(wù)器能與WEKA的AI原生數(shù)據(jù)平臺(tái)軟件完美互補(bǔ)搭配,并為現(xiàn)今的企業(yè)AI客戶提供空前的速度、規(guī)模和簡(jiǎn)易性?!?/p>
Supermicro將在一場(chǎng)網(wǎng)絡(luò)研討會(huì)中介紹其優(yōu)化存儲(chǔ)架構(gòu)的更多細(xì)節(jié)。若要參加該場(chǎng)于2024年2月1日舉辦的直播網(wǎng)絡(luò)研討會(huì),或觀看Supermicro和WEKA的網(wǎng)絡(luò)研討會(huì)回放。