加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 至強6如何驅(qū)動下一代數(shù)據(jù)中心演進?
    • 搭載至強6性能核的阿里云ECS第九代企業(yè)級計算實例
    • 寫在最后
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

CPU微架構(gòu)創(chuàng)新驅(qū)動下,英特爾和阿里云重新定義數(shù)據(jù)中心

09/25 12:21
1999
閱讀需 10 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

身處數(shù)字經(jīng)濟浪潮中,生成式AI成為焦點,展現(xiàn)了AI的巨大潛力。行業(yè)數(shù)據(jù)顯示,預(yù)計到2026年,將有超過3千億美元投向生成式AI領(lǐng)域。

為什么生成式AI能夠成為引爆熱點的關(guān)鍵?日前,在2024云棲大會-英特爾分論壇上,英特爾市場營銷集團副總裁、中國區(qū)云與行業(yè)解決方案和數(shù)據(jù)中心銷售部總經(jīng)理梁雅莉談到,生成式AI之所以成為熱點,是因為它有望像上一波互聯(lián)網(wǎng)浪潮一樣,憑借技術(shù)重塑商業(yè)效率和創(chuàng)新價值鏈。特別是面向新質(zhì)生產(chǎn)力所鑄就的未來,前沿生產(chǎn)力的創(chuàng)新非常重要,生成式AI和算力基礎(chǔ)將成為構(gòu)造新質(zhì)生產(chǎn)力的關(guān)鍵一環(huán)。

英特爾市場營銷集團副總裁、中國區(qū)云與行業(yè)解決方案和數(shù)據(jù)中心銷售部總經(jīng)理 梁雅莉

多年來,英特爾推動算力和計算架構(gòu)的發(fā)展,與阿里云十幾年的合作中,從定制處理器服務(wù)器優(yōu)化,再到浸沒式液冷機柜的研發(fā),以及開源生態(tài)的共同構(gòu)建,雙方不斷推動創(chuàng)新的邊界。如今,面向生成式AI的加速創(chuàng)新,高速發(fā)展的AI算力也在驅(qū)動著下一代數(shù)據(jù)中心的演進。

至強6如何驅(qū)動下一代數(shù)據(jù)中心演進?

快速增長的AI算力需求亟需更高性能的基礎(chǔ)設(shè)施作為支撐。此次大會上,英特爾分享了至強6平臺架構(gòu),并預(yù)覽了至強6性能核處理器的性能優(yōu)勢。

為滿足多樣化的客戶需求,英特爾至強6微架構(gòu)在采用靈活內(nèi)核設(shè)計的同時,還擁有共享硬件平臺與通用的軟件堆棧,這將有助于提升系統(tǒng)可靠性并簡化用戶的開發(fā)、部署及管理流程。其中,即將發(fā)布的至強6性能核處理器通過內(nèi)置的AMX和專門面向AI優(yōu)化的AVX-512提高性能與效率,可滿足計算密集型和AI工作負(fù)載的需求。

英特爾中國數(shù)據(jù)中心及人工智能事業(yè)部產(chǎn)品規(guī)劃總經(jīng)理李爾成談到,企業(yè)AI是一個大有可為的領(lǐng)域,面對日益增長的工作負(fù)載,企業(yè)需要高性能、低延遲的解決方案,這推動了混合云策略的普及。同時,生成式AI工作負(fù)載的顯著增長,給英特爾計算平臺提出更高核心性能和更大內(nèi)存帶寬的需求;微服務(wù)市場的增長也促使英特爾繼續(xù)優(yōu)化處理器的能效比,以支持更快的開發(fā)周期和更高效的系統(tǒng)擴展。

“為了滿足現(xiàn)代數(shù)據(jù)中心不斷演進的技術(shù)需求,性能和效率需要齊頭并進演進,同時,在平臺和軟件層面做到統(tǒng)一很關(guān)鍵。英特爾希望平臺能夠覆蓋計算密集型(包括AI)的工作負(fù)載,同時也能夠滿足傳統(tǒng)企業(yè)應(yīng)用程序,可以進一步拓展云原生應(yīng)用和使用場景”,李爾成強調(diào),“至強6包括能效核和性能核,旨在滿足這些需求,同時保持軟件和平臺層面的一致性?!?/p>

相比前代產(chǎn)品,至強6在AI方面的性能更值得期待,貢獻最大的就是AMX(Advanced Matrix Extensions;高級矩陣擴展)運算單元,專門用來加速深度學(xué)習(xí)應(yīng)用。與傳統(tǒng)的GPU加速器不同,AMX不需要額外的驅(qū)動程序,它的使用方式與普通CPU指令相同,編程更簡便。AMX支持可擴展性,集成在每個核心內(nèi)部,可以提高數(shù)據(jù)處理的效率和一致性。

此外還有內(nèi)存方面的優(yōu)化,至強6平臺通過CXL 2.0技術(shù)支持多樣化的內(nèi)存策略,如將CXL內(nèi)存與DDR內(nèi)存結(jié)合,以此擴展容量、提升并發(fā)訪問速度和總帶寬。下一代處理器平臺將會支持CXL 3.X,引入基于交換機構(gòu)建的CXL Fabric概念,支持更多節(jié)點的互連,滿足低延遲、高帶寬、容錯和大規(guī)模部署的需求。據(jù)英特爾專家介紹,CXL Fabric的引入預(yù)示著在AI大模型時代,英特爾將能夠更有效地滿足對計算、互連和內(nèi)存的復(fù)雜需求,優(yōu)化AI大模型的性能和效率。

梁雅莉表示,“至強6平臺通過采用共享的硬件平臺和通用的軟件棧,可以簡化開發(fā)和部署流程。而這種策略依賴于芯片微架構(gòu)的一致性。至強6通過共享的硬件平臺以及不同側(cè)重的性能核與能效核,能夠滿足多樣化的計算需求。在邁向“雙碳”目標(biāo)的時代背景下,未來微架構(gòu)的發(fā)展將更加注重在能源效率和計算性能之間找到最佳平衡點,以支持?jǐn)?shù)據(jù)中心的可持續(xù)發(fā)展?!?/p>

搭載至強6性能核的阿里云ECS第九代企業(yè)級計算實例

會上,英特爾攜手阿里云預(yù)發(fā)布了搭載有英特爾至強6性能核處理器的阿里云ECS第九代企業(yè)級計算實例,憑借更強性能和一系列先進特性,新一代企業(yè)級計算實例組合將持續(xù)推動下一代數(shù)據(jù)中心升級,為AI大模型的落地與發(fā)展提供強有力支持。

阿里云智能集團服務(wù)器硬件負(fù)責(zé)人文芳志回顧了與英特爾的合作歷程,他表示,多年來,雙方在服務(wù)器技術(shù)研發(fā)和云產(chǎn)品方面進行了深入合作,率先在國內(nèi)進行浸沒式液冷技術(shù)的商業(yè)部署,推出了包括高級RAS、硬件動態(tài)內(nèi)存刷新控制等一系列先進的軟件創(chuàng)新。此外,英特爾和阿里云在CXL、UCle和UALink等開放互連組織上合作推動標(biāo)準(zhǔn)建設(shè),并聯(lián)合推動Alinux和OpenAnolis社區(qū)的繁榮和發(fā)展。未來,雙方將秉持持續(xù)創(chuàng)新的合作精神,共同推動技術(shù)與生態(tài)系統(tǒng)的進步。

據(jù)阿里云智能集團彈性計算高級產(chǎn)品專家姬少晨介紹,阿里云在彈性計算產(chǎn)品方面與英特爾有著深度的技術(shù)合作,從7代實例聯(lián)合開發(fā)并在全球范圍內(nèi)率先發(fā)布基于SGX的安全增強型實例,到8代實例充分利用了英特爾AMX矩陣加速引擎和英特爾QAT技術(shù)等,并發(fā)布業(yè)界領(lǐng)先的TDX機密虛擬機。今年年中,阿里云對8代實例進行了優(yōu)化,使得性能提升25%的基礎(chǔ)上,保持價格不變。

經(jīng)過不斷地迭代升級,雙方將英特爾至強處理器上的技術(shù)優(yōu)勢,通過阿里云彈性計算轉(zhuǎn)化為云上彈性的算力,持續(xù)提供安全、穩(wěn)定、高性能、彈性的云上算力服務(wù)。

據(jù)透露,9代實例發(fā)布前,阿里云進行了深入的客戶調(diào)研,發(fā)現(xiàn)隨著AI和大數(shù)據(jù)時代的到來,客戶對算力的要求越來越高,云原生應(yīng)用對算力的彈性需求也更強烈。因此,9代實例基于CIPU架構(gòu)和英特爾至強6性能核處理器,提供了性能、彈性、穩(wěn)定和安全的全面提升,且內(nèi)存帶寬提升了70%,L3緩存提升了50%。9代實例還支持全新彈性臨時盤,相對本地盤實例,提升了資源靈活性,磁盤網(wǎng)卡密度也得到大幅提升。

在阿里云與英特爾的深度合作中,通過CPU原生硬件加速器,實現(xiàn)了場景化的能力增強。AMX通過引入新的硬件結(jié)構(gòu),提高了矩陣運算效率,適用于AI推薦和大模型數(shù)據(jù)清洗。此外,9代實例增加了FP16支持,進一步提高了精度和兼容性。同時,英特爾QAT加速器的引入,降低了處理器內(nèi)核負(fù)載,提升了數(shù)據(jù)加解密和壓縮解壓縮的性能。

英特爾還分享了一系列與阿里云在諸多垂直領(lǐng)域?qū)崿F(xiàn)數(shù)智化轉(zhuǎn)型的實踐成果。在媒體處理領(lǐng)域,搭載第五代英特爾至強可擴展處理器的個性化解決方案,可幫助阿里云視頻云AI產(chǎn)品實現(xiàn)在畫質(zhì)修復(fù)、一鍵生成和視頻搜索等工作負(fù)載上的大幅優(yōu)化與升級。

在生命科學(xué)領(lǐng)域,英特爾亦與阿里云合作優(yōu)化了多個面向不同場景的AI大模型,從而幫助加速藥物的研發(fā)、生產(chǎn)以及銷售的全流程。

寫在最后

在AI加速邁向全面應(yīng)用之際,英特爾攜手阿里云在這次大會上展示了憑借各自技術(shù)優(yōu)勢、進行不懈探索的創(chuàng)新成果。

面臨生成式AI的廣闊機遇,下一代數(shù)據(jù)中心的變革已開始,不論是計算性能、計算效率還是總體擁有成本(TCO)等,都需要滿足大規(guī)模、高性能計算的需求。而這將持續(xù)推動計算架構(gòu)向前演進,處理器的微架構(gòu)創(chuàng)新尤為關(guān)鍵,將從源頭奔赴用戶和業(yè)務(wù)場景的需求,解鎖解鎖AI時代的無限可能。

英特爾

英特爾

英特爾在云計算、數(shù)據(jù)中心、物聯(lián)網(wǎng)和電腦解決方案方面的創(chuàng)新,為我們所生活的智能互連的數(shù)字世界提供支持。

英特爾在云計算、數(shù)據(jù)中心、物聯(lián)網(wǎng)和電腦解決方案方面的創(chuàng)新,為我們所生活的智能互連的數(shù)字世界提供支持。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

與非網(wǎng)資深行業(yè)分析師。主要關(guān)注人工智能、智能消費電子等領(lǐng)域。電子科技領(lǐng)域?qū)I(yè)媒體十余載,善于縱深洞悉行業(yè)趨勢。歡迎交流~