打破高性能計算性能墻、內存墻、互聯(lián)墻的一種解題思路

市場調研機構Hyperion Research最新ISC24市場報告顯示，2023年全球HPC市場規(guī)模為372億美元，與2022年基本持平。未來5年，HPC服務器市場的年平均增長率預計為8.2%，存儲市場的年平均增長率預計為9.3%，GPU市場的年平均增長率預計為17%，云計算市場的年平均增長率預計為21%。整體HPC市場呈現(xiàn)穩(wěn)健增長態(tài)勢。

HPC訓練/推理服務器的主流系統(tǒng)架構，主體算力由CPU芯片和AI芯片這兩顆芯片提供，但是一個完整的服務器，要能夠提供完整的算力，還需要非常多的互聯(lián)技術，把芯片連接在一起。這里的互聯(lián)技術包含：AI芯片為了提升算力密度，會采用UCIe把兩個Die結合在一起，盡量突破算力瓶頸；內存方面，CPU要經(jīng)過內存接口，用DDR5做連接，AI芯片需要和HBM3/LPDDR5x做充分內存，以提供足夠算力；針對大模型進行運算或進行訓練和推理，AI芯片與AI芯片之間，算力卡與算力卡之間，也需要高速接口互聯(lián)，采用PCIe或Serdes，將所有算力芯片連接起來。

可見未來HPC的技術體系除了算力本身，互聯(lián)是非常核心的。

通過英偉達過往六七年的產(chǎn)品發(fā)展可以看到算力是如何提升的、瓶頸在哪，到2024年的B200，算力提升10-20倍，甚至到百倍的提升，從工藝發(fā)展來看，為了提升性能，先進工藝采用是非常簡單直接的邏輯，從P100到B200的工藝演進是從16nm一直演進到4nm，但是我們看到工藝演進逐漸接近極限，速度也在放緩。從AI芯片來看，到現(xiàn)在已經(jīng)接近光罩極限。這個時候Die to Die、RISC-V技術開始導入并發(fā)揮作用，直接的體現(xiàn)在英偉達的B200上，這可芯片首次采用互聯(lián)技術，可以把算力的密度持續(xù)往上提升；

從內存的趨勢角度，由于帶寬逐步進化，從P100到B200，內存提升超過10倍以上。從演進來看，算力提升不僅僅體現(xiàn)在算力單元、算力密度上，還有內存存取，現(xiàn)在的運算模型越來越龐大，存取需要大量帶寬做參數(shù)存儲跟計算，內存逐步演變成非常大的算力瓶頸；

同樣的，互聯(lián)也一樣，當前單一計算芯片無法提供足夠的算力來支撐如此大的模型運算，需要靠系統(tǒng)型算力，也就需要靠PCIe，將所有算力互聯(lián)在一起，在過去的七、八年中，總速度、總帶寬才得以實現(xiàn)10倍以上的提升。

接下來還能怎樣解決算力瓶頸？從上面提到的性能墻、內存墻和互聯(lián)墻三個維度來考慮，高速接口IP成為一種可能的解題思路，這也是近年來很多IP企業(yè)紛紛加大對接口IP的投入的驅動力。

IPNest最新的數(shù)據(jù)統(tǒng)計顯示，2023年，半導體市場整體下滑，但接口IP領域增長了17%。預測數(shù)據(jù)顯示，2024年至2028年接口IP的增長更為強勁，與2020年代的20%增長相當。接口IP類別占所有IP類別的份額已從2017年的18%上升至2023年的28%。這一趨勢將在未來10年內進一步擴大，份額將增長到總量的38%。預計大部分增長來自三個類別：PCIe、內存控制器（DDR）以及以太網(wǎng)與D2D，未來5年復合年增長率分別為19%、23%和22%。

我們也看到多家本土IP企業(yè)希望把握這一機會點大力發(fā)展高速接口IP，但不可否認，HPC高性能計算本身對產(chǎn)品性能、功能以及先進工藝節(jié)點的要求都非常之高，以本土IP企業(yè)的人才和技術積累想在這一領域有所突破甚至是超越，難度可想而知。

芯耀輝董事長曾克強

“我們HPC類和AI類的客戶群成長很快?！苯眨跓o錫舉辦的2024中國集成電路設計創(chuàng)新大會暨第四屆IC應用展（ICDIA2024）期間，本土IP初創(chuàng)企業(yè)芯耀輝董事長曾克強介紹?！搬槍a(chǎn)最先進的工藝節(jié)點，我們的產(chǎn)品也可以做到明確的領先。同時也在導入國外的主流工藝，這一領域的友商很多，芯耀輝產(chǎn)品線相對會比較全，我們的產(chǎn)品包括DDR5可以做到和國際頭部企業(yè)同等速率，UCIe相關產(chǎn)品也可以做到24G速率，處于領先?！?/p>

從2020年6月創(chuàng)立，到2024年，芯耀輝已經(jīng)形成了較完整的高速接口IP產(chǎn)品線?！搬槍π阅軌Γ疽x提供完整的UCIe、XSR，承接D2D的互聯(lián)，有標準的控制器；針對內存墻，除了HBM、DDR、LPDDR，還提供Memory Compiler，Memory Compiler是內存帶寬最高、性能最高的內存存儲媒介，在運算過程中，大算力芯片需要超高速帶寬內存，來突破算力瓶頸；針對互聯(lián)墻，經(jīng)過大量驗證，有非常多客戶采用芯耀輝的PCIe5/32G Serdes PHY IP，我們的解決方案，面向面積和帶寬，在控制部分進行了大量優(yōu)化，面積節(jié)省40%左右，同時也提供下一代的完整PCIe6和112G Serdes解決方案?！痹藦娞岬健?/p>

作為IP提供商，最后往往需要為客戶提供更完整的產(chǎn)品組合和解決方案，對此，曾克強表示，“如果要做一個完善的一站式IP廠商，也需要控制器IP，這樣給客戶提供一整套的解決方案，這樣HBM的IP和數(shù)字控制器IP都是芯耀輝的，在互相協(xié)同兼容性、可靠性上都會做的更好，這也是行業(yè)規(guī)律。我們做的主要是基于和工藝相關的，以高速接口為核心，上下擴展。包括數(shù)字各類接口IP以及數(shù)字控制器IP，還有工藝制造端的其他IP，都在我們的考慮當中，但基本上核心是圍繞著工藝墻相關的產(chǎn)品來展開?！?/p>

“綜上所述，我們希望通過完整的產(chǎn)品組合，并提供完整的設計、全方位生態(tài)、Foundry等完整供應鏈，可以給客戶帶來非常完整的解決方案，希望助力客戶在芯片設計和產(chǎn)品開發(fā)上持續(xù)迭代?！痹藦娧a充。