CA100 智能計(jì)算一體機(jī)
4月16日,澎峰科技正式對外發(fā)布CA100智能計(jì)算一體機(jī)產(chǎn)品,CA100智能計(jì)算一體機(jī)是面向高性能計(jì)算、AI大模型訓(xùn)練、AI大模型推理等場景的一體化計(jì)算解決方案產(chǎn)品。集成澎峰科技PerfXLM Solution完整軟件生態(tài),自研異構(gòu)計(jì)算軟件棧PerfXAPI,澎峰PerfMPL高性能數(shù)學(xué)庫、算子庫、領(lǐng)域加速包,可實(shí)現(xiàn)CPU+GPU硬件的極致算力發(fā)揮??蓱?yīng)用于深度學(xué)習(xí)模型的訓(xùn)練和推理、高性能計(jì)算、數(shù)據(jù)分析等多種應(yīng)用場景,易于管理和部署,使其成為智能時(shí)代下多元算力引擎。
CA100智能計(jì)算一體機(jī)
核心優(yōu)勢
- 針對用戶場景進(jìn)行性能優(yōu)化,發(fā)揮極致算力。
- 集成澎峰科技的PerfXLM推理引擎,已適配 LLaMA、GPT、ChatGLM、Baichuan、Qwen、文心一言等各種主流開源模型和客戶私有模型,已經(jīng)適配Langchain等中間件。
- 支持 Pytorch、TensorFlow生態(tài)的多種 AI 訓(xùn)練、微調(diào)框架的預(yù)裝。
- 預(yù)裝PerfXChat(大模型對話),PerfXRAG(AI檢索),PerfXSD(文生圖)等應(yīng)用案例,提供開源和商業(yè)版本。
CA100智能計(jì)算一體機(jī)支持多種混合精度FP64FP32 FP16 BF16TF32INT8,單機(jī)最高支持2 PFLOPS/4000 TOPS,是一款高性能一體化融合產(chǎn)品。集成澎峰PerfXAPI、PerfMPL能夠快速的支持ABAQUS,LS-DYNA、VASP、Gromacs、Gaussian、WRF、MM5、Blast、BWA、Geoeast、Eclipse等科學(xué)計(jì)算場景。目前已在計(jì)算醫(yī)學(xué)領(lǐng)域與多家頭部企業(yè)合作,加速科學(xué)計(jì)算。
CA100某應(yīng)用加速對比
CA100智能計(jì)算一體機(jī)已適配 LLaMA、GPT、ChatGLM、Baichuan、Qwen、文心一言等各種主流開源模型和客戶私域模型;支持Pytorch、TensorFlow、PaddlePaddle等多種AI訓(xùn)練及推理框架預(yù)裝。支持集成澎峰PerfXLM Solution多種開源開放應(yīng)用解決方案、真正實(shí)現(xiàn)開機(jī)即用。
PerfXChat應(yīng)用方案
同時(shí)CA100智能計(jì)算一體機(jī)支持多種生態(tài)適配應(yīng)用方案,目前已與多家生態(tài)應(yīng)用進(jìn)行移植適配?;诖竽P偷膽?yīng)用方案已在多個(gè)領(lǐng)域部署落地。未來澎峰科技將開源開發(fā)更多應(yīng)用解決方案,同時(shí)聯(lián)合更多應(yīng)用生態(tài)伙伴共同為用戶提供計(jì)算應(yīng)用一體化解決方案落地。
PerfXSD多模態(tài)創(chuàng)作應(yīng)用方案