在斯坦福大學(xué)舉行的全球芯片行業(yè)年度盛會(huì)Hot Chips大會(huì)上,全球光電混合計(jì)算領(lǐng)軍企業(yè)曦智科技進(jìn)行了全新光電計(jì)算產(chǎn)品Hummingbird的首次公開(kāi)演示。這是繼美國(guó)西部時(shí)間8月8日發(fā)布Photowave之后,曦智科技一個(gè)月之內(nèi)再次推出新產(chǎn)品。至此,曦智科技從光子矩陣計(jì)算(oMAC)、片上光網(wǎng)絡(luò)(oNOC)、片間光網(wǎng)絡(luò)(oNET)三大核心技術(shù)出發(fā),打造的各系列產(chǎn)品均已推出首款硬件,完成了光子計(jì)算和光子網(wǎng)絡(luò)兩條產(chǎn)品線的最后一塊“拼圖”。
Hummingbird是首個(gè)用于特定領(lǐng)域人工智能(AI)工作負(fù)載的片上光網(wǎng)絡(luò)(oNOC)處理器,采用先進(jìn)封裝技術(shù),將光芯片和電芯片進(jìn)行垂直堆疊,集成為一個(gè)系統(tǒng)級(jí)封裝(System in Package,SiP)。
Hummingbird計(jì)算卡
oNOC技術(shù)旨在代替電芯片內(nèi)部或者芯粒之間的電互連網(wǎng)絡(luò),把電信號(hào)轉(zhuǎn)成光信號(hào),通過(guò)光芯片中的光波導(dǎo)網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)通信,提高整體計(jì)算效率。通過(guò)這種方式可實(shí)現(xiàn)算力和內(nèi)存擴(kuò)展,提供更低的延時(shí),更大的互連帶寬,以及更多的拓?fù)浣Y(jié)構(gòu)。
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示:“光子技術(shù)是解決計(jì)算規(guī)模擴(kuò)展問(wèn)題的有效方法。隨著AI熱潮推動(dòng)了算力需求的指數(shù)級(jí)增長(zhǎng),傳統(tǒng)的解決方案已經(jīng)很難跟上,業(yè)界可以通過(guò)將光子技術(shù)納入下一代產(chǎn)品中來(lái)解決擴(kuò)展問(wèn)題,Hummingbird驗(yàn)證了這一點(diǎn)?!?/p>
知名半導(dǎo)體行業(yè)評(píng)論人、SemiAnalysis首席分析師Dylan Patel則評(píng)論說(shuō):“曦智科技正在利用其專有的光子技術(shù)打破內(nèi)存壁壘,這有可能改變半導(dǎo)體行業(yè)。”
本次發(fā)布的Hummingbird,是繼2021年年底發(fā)布的PACE(Photonic Arithmetic Computing Engine)之后,曦智科技光子計(jì)算產(chǎn)品線的第二款產(chǎn)品,也是該產(chǎn)品線首款應(yīng)用oNOC技術(shù)的硬件。
曦智科技光電混合計(jì)算新范式
在Hot Chips大會(huì)上,曦智科技工程副總裁Maurice(Mo) Steinman詳細(xì)介紹了Hummingbird規(guī)格參數(shù),以及曦智科技光電混合計(jì)算新范式在滿足數(shù)據(jù)中心對(duì)更高算力、更低延時(shí)、更低功耗的需求上體現(xiàn)出的優(yōu)勢(shì)。
Hummingbird通過(guò)硅光芯片上的U型光波導(dǎo)傳播信號(hào),可實(shí)現(xiàn)電芯片上64個(gè)核之間的all-to-all全通道廣播。這種方式讓Hummingbird相比于傳統(tǒng)數(shù)字互連解決方案顯著降低了延遲和功耗,充分體現(xiàn)了光子技術(shù)在提升計(jì)算表現(xiàn)上的優(yōu)越性。
與片上電網(wǎng)絡(luò)不同,曦智科技的oNOC技術(shù)通過(guò)計(jì)算節(jié)點(diǎn)間全互連拓?fù)浣Y(jié)構(gòu),擴(kuò)展了計(jì)算集群規(guī)模和配置靈活度。
在oNOC架構(gòu)下,芯粒間距離幾乎不會(huì)影響功耗和延遲。因此,該技術(shù)非常適合開(kāi)發(fā)新的、更可靠的拓?fù)浣Y(jié)構(gòu),并且不再局限于相鄰兩個(gè)芯片之間的傳輸。Hummingbird使得在單個(gè)電芯片或芯粒系統(tǒng)中更高效地利用算力成為可能。借助oNOC,將工作負(fù)載映射到不同硬件變得更加容易,為計(jì)算系統(tǒng)設(shè)計(jì)選擇合適的拓?fù)浣Y(jié)構(gòu)也變得更加靈活。
值得一提的是,Hummingbird還內(nèi)置了曦智科技自主研發(fā)的小型化單/多波長(zhǎng)激光光源Moonstone,可實(shí)現(xiàn)多至8個(gè)通道波長(zhǎng)的高功率光輸出,這是曦智科技在推動(dòng)光電混合計(jì)算產(chǎn)品化和商業(yè)化過(guò)程中的又一技術(shù)突破。
Hummingbird的電芯片和光芯片被共同封裝并集成到一個(gè)PCIe板卡上,適用于通用的服務(wù)器。結(jié)合曦智科技的軟件開(kāi)發(fā)工具包(SDK),機(jī)器學(xué)習(xí)和人工智能工作負(fù)載可以充分利用oNOC的優(yōu)勢(shì)實(shí)現(xiàn)性能優(yōu)化。此外,oNOC和Hummingbird IP還可以根據(jù)客戶應(yīng)用場(chǎng)景進(jìn)行定制。
Hummingbird可集成在標(biāo)準(zhǔn)PCIe板卡上,具有良好的通用性
Hummingbird的后續(xù)版本將采用光罩拼接技術(shù)(reticle-stitching)以支持芯粒架構(gòu),從而實(shí)現(xiàn)更好的可擴(kuò)展性,在提高能效比的基礎(chǔ)上進(jìn)一步突破算力瓶頸的制約。
隨著Photowave和Hummingbird兩款光電混合產(chǎn)品的發(fā)布,曦智科技產(chǎn)品市場(chǎng)化進(jìn)程取得了階段性進(jìn)展。曦智科技接下來(lái)將持續(xù)推動(dòng)產(chǎn)品迭代進(jìn)程,拓寬產(chǎn)品應(yīng)用領(lǐng)域,為客戶提供一系列算力躍遷解決方案。