如何沖破大模型時代的算力關(guān)卡？天翼云給出答案

IDC最新發(fā)布的《中國智算服務(wù)市場（2023 下半年）跟蹤》報告顯示，2023 下半年中國智算服務(wù)市場整體規(guī)模達(dá)到 114.1 億元人民幣，同比增長 85.8%；方正證券發(fā)布的《2023年AI算力行業(yè)報告》顯示，目前智能算力滲透率達(dá)到22.78%，而未來“天花板”有望超80%。可以看出，智算市場正處于加速增量階段，面向人工智能時代的智算需求也將迎來爆發(fā)增長。

而無論是當(dāng)下炙手可熱的大模型技術(shù)，還是面向行業(yè)場景化的創(chuàng)新AI研發(fā)，都建立在一種資源的充分利用上，那就是算力。在復(fù)雜多樣的需求之下，不僅要求算力資源更加充沛和靈活，還要求算力基礎(chǔ)設(shè)施向智能和一體化的方向發(fā)展，以更高效率和性能來支持更大規(guī)模計算，助力我國智能產(chǎn)業(yè)加速“翱翔”。

那么，誰來承擔(dān)這一使命呢？

勇?lián)萍甲粤⒆詮?qiáng)的使命，正是天翼云的特點(diǎn)。

在不久前的2024世界人工智能大會上，天翼云科技有限公司董事長、總經(jīng)理胡志強(qiáng)表示，天翼云作為國家云，已具備豐富的智算資源儲備、強(qiáng)大的智算平臺能力和開放的模型應(yīng)用生態(tài)。面向人工智能新一輪科技革命浪潮，天翼云堅持以科技創(chuàng)新驅(qū)動高質(zhì)量發(fā)展，為數(shù)字經(jīng)濟(jì)發(fā)展注入新動能。

擁抱人工智能技術(shù)趨勢、發(fā)揮云化算力底座作用，天翼云不僅自建了豐富的智算資源，同時匯聚了大量的社會智算資源，為千行百業(yè)向智發(fā)展，打造了堅實(shí)的云化算力底座。

近年來，我國在多個戰(zhàn)略規(guī)劃中提到了算力建設(shè)的重要性，比如國務(wù)院印發(fā)的《數(shù)字中國建設(shè)整體布局規(guī)劃》提出，要系統(tǒng)優(yōu)化算力基礎(chǔ)設(shè)施布局，促進(jìn)東西部算力高效互補(bǔ)和協(xié)同聯(lián)動，引導(dǎo)通用數(shù)據(jù)中心、超算中心、智能計算中心、邊緣數(shù)據(jù)中心等合理梯次布局。隨著當(dāng)下AI和大模型的行業(yè)滲透率不斷提高，對于多層次智算資源需求愈發(fā)凸顯。

要保障算力充沛供給與高效利用，我們還需要攻破這些關(guān)卡：

第一關(guān)是“智算資源的供給緊張”。針對大模型和AI任務(wù)的專項(xiàng)算力，供給持續(xù)緊缺，海外高端算力芯片供不應(yīng)求，供應(yīng)鏈風(fēng)險也越來越大。面對海外算力封鎖的嚴(yán)峻形勢，我們必須構(gòu)建自主可控的算力資源體系，確保算力的安全性和穩(wěn)定性，為各行各業(yè)提供堅實(shí)可靠的算力支撐。

第二關(guān)是“已有算力的利用率不高、區(qū)域算力差異大”。?在數(shù)字經(jīng)濟(jì)時代，算力水平制約產(chǎn)業(yè)和經(jīng)濟(jì)發(fā)展，很多地區(qū)、企業(yè)都開始建設(shè)數(shù)據(jù)中心，算力總規(guī)模持續(xù)增長，但不同地區(qū)、不同行業(yè)之間的算力資源分配也存在不均衡現(xiàn)象，已有算力資源的配置效率有待提升。

目前來看，通過云化的方式對算力資源進(jìn)行集中化和高效調(diào)度、促進(jìn)算力資源的跨地區(qū)跨行業(yè)共享，是提高算力利用率的可行方案，讓算力可以如同水、電等公共基礎(chǔ)設(shè)施一樣，被用戶便捷、低成本地獲取。

面向云智融合的時代趨勢，作為云服務(wù)國家隊的天翼云勇?lián)鷷r代重任，通過科技創(chuàng)新進(jìn)行攻關(guān)、進(jìn)行多層次的算力布局，實(shí)現(xiàn)了豐富的智算資源供給，為客戶提供強(qiáng)大的算力支持。

兵馬未動，糧草先行。于AI產(chǎn)業(yè)而言，智算資源便是“糧草”。

面向智算，天翼云自建了大規(guī)模、多樣化的算力資源，可以滿足各個區(qū)域、各種行業(yè)場景的不同需求。目前，天翼云在全國范圍內(nèi)構(gòu)建了“2+4+31+X”的資源池，織就全國算力“一張網(wǎng)”，構(gòu)建了“中心－?。吘墸恕钡乃募壦懔Σ季煮w系。通過針對性優(yōu)化，解決了AI在云上的大量工程化挑戰(zhàn)。

首先，針對性解決大模型訓(xùn)練推理需要大規(guī)模算力問題。天翼云超前構(gòu)建智能算力布局，針對 AI 產(chǎn)業(yè)集聚區(qū)，規(guī)劃建設(shè)了北京、上海、廣東、浙江、安徽人工智能公共算力中心，并先后在上海、北京建成萬卡池，這也是全國最早建成并真正投產(chǎn)運(yùn)行的兩個國產(chǎn)化、全液冷、單集群萬卡公共智算中心。

其次，針對能耗問題打造綠色高效算力。計算也是耗能大頭，提高能效、節(jié)能減碳勢在必行。天翼云通過領(lǐng)先技術(shù)降低能耗，如在公共智算中心采用液冷技術(shù)，實(shí)現(xiàn)能效和算效“雙效合一”。此外還在內(nèi)蒙、貴州、寧夏等清潔能源集聚地建設(shè)智算中心，提供綠色低碳的算力。

再次，為了提高算力響應(yīng)速度和計算效率，天翼云已在31省預(yù)部署AI云電腦和推理池，在280多個地市的一城一池節(jié)點(diǎn)和1000多個邊緣節(jié)點(diǎn)，按需下沉AI云電腦算力和推理算力。

最后聚焦技術(shù)自主可控，天翼云支持“一云多態(tài)”，提供國內(nèi)外主流的GPU、NPU算力方案，面向不同場景為用戶提供公有云、私有云、邊緣云多種形態(tài)服務(wù)。

可用、可信、可持續(xù)的算力才能讓中國AI持續(xù)前行，天翼云通過“建內(nèi)功”，已儲備了分布廣泛、安全可靠、技術(shù)先進(jìn)、綠色節(jié)能的大規(guī)模智算“糧倉”，并以云服務(wù)的形式，實(shí)現(xiàn)靈活便捷、低成本地獲取，為各行各業(yè)智能演進(jìn)提供充沛普惠的算力保障。

于智算資源而言，患寡亦患不均，有了算力糧儲，進(jìn)而要考慮高效調(diào)度分配。

為了保障我國算力資源高效運(yùn)營，目前全國正加快形成一體化算力網(wǎng)絡(luò)。但多地多方的算力聯(lián)網(wǎng)，讓算力互聯(lián)、跨域調(diào)度管理等工作在實(shí)際運(yùn)行中面臨一系列挑戰(zhàn)，亟需一張“算力網(wǎng)”平衡區(qū)域資源、實(shí)現(xiàn)供需匹配。

為此，天翼云重點(diǎn)研發(fā)算力分發(fā)網(wǎng)絡(luò)平臺“息壤”，從算力統(tǒng)一接入、算數(shù)網(wǎng)一體化調(diào)度、算力簡便易用三方面進(jìn)行技術(shù)突破：

在算力統(tǒng)一接入方面，“息壤”平臺預(yù)置了算力插件，可高效接入平臺化算力，此外還通過算力網(wǎng)關(guān)，將裸算力云化接入。

在算數(shù)網(wǎng)一體化調(diào)度方面，通過算數(shù)協(xié)同，實(shí)現(xiàn)數(shù)隨算走、算隨數(shù)動，讓調(diào)度策略更全面，調(diào)度方案更精準(zhǔn)，同時構(gòu)建了多級算力互聯(lián)調(diào)度，讓調(diào)度區(qū)域更廣、算力更泛在。

在提升算力簡便易用性上，“息壤”借助了大模型認(rèn)知能力，為行業(yè)與客戶智能匹配合適的算力選擇，讓應(yīng)用部署更簡單。通過業(yè)務(wù)調(diào)度，還能實(shí)現(xiàn)跨地域跨服務(wù)商的故障自動恢復(fù)和負(fù)載均衡，提升應(yīng)用可靠性。

天翼云通過“息壤”平臺，大規(guī)模匯聚社會各方算力，解決了跨域、跨服務(wù)商異構(gòu)算力的統(tǒng)一調(diào)度管理、并網(wǎng)交易等需求，實(shí)現(xiàn)促進(jìn)算力互聯(lián)互通、高效利用、供需匹配，也促進(jìn)全國一體化算力體系加速形成。目前，“息壤”主要服務(wù)于三大算力場景：

一是自營的公共算力服務(wù)平臺。目前已接入多家算力伙伴，顯著擴(kuò)大了天翼云的算力規(guī)模和品類，滿足公有云客戶的多元算力需求。

二是行業(yè)算力互聯(lián)網(wǎng)。比如福建多所大學(xué)組成的高校算力聯(lián)盟，通過多方資源共享、優(yōu)勢互補(bǔ)，提升算力利用水平。

三是城市算力互聯(lián)網(wǎng)。通過整合區(qū)域內(nèi)多方算力，結(jié)合產(chǎn)業(yè)政策，一體化統(tǒng)籌調(diào)度算力，目前已在多個區(qū)域成功實(shí)踐。

通過技術(shù)創(chuàng)新與合作，天翼云以“息壤”為算力資源底座逐步推動構(gòu)建起一張全國“算力網(wǎng)”，以多樣且靈活的算力調(diào)度能力，打破算力分布不均衡、已有算力資源利用率低的瓶頸。

AI的滲透率將持續(xù)增長，重塑社會經(jīng)濟(jì)的每一個角落。隨著AI應(yīng)用場景的不斷拓展，算力需求也將呈現(xiàn)出多樣化的特點(diǎn)，算力基礎(chǔ)設(shè)施由通算向通智超一體化發(fā)展，算力建設(shè)也向更豐富、更多層次的智算發(fā)展。

無論需求如何變遷，天翼云始終勇立時代潮頭創(chuàng)新技術(shù)、演進(jìn)實(shí)力。我們可以看到“國云”的獨(dú)特氣質(zhì)：

縱向有高度。無論是全棧自研的萬卡集群解決方案，還是跨域調(diào)度的“息壤”平臺，天翼云以極高的技術(shù)實(shí)力，創(chuàng)新性地解決智算供給難題。

橫向有廣度。作為“國家隊”，天翼云致力于推動算力的普惠化，息壤平臺加快形成全國一體化算力體系，讓充沛、可靠、持續(xù)的算力成為千行百業(yè)用得到、用得起的資源。

站在AI黃金期的起點(diǎn)上，跨越算力瓶頸，天翼云給出的答案，是將自建算力和社會算力匯聚起來，AI將像水、電、網(wǎng)絡(luò)一樣無處不在，把普惠算力送往更加廣闊的天地，送到社會的每一個角落，為數(shù)字經(jīng)濟(jì)發(fā)展注入磅礴動能。

既已越過了向智能云發(fā)展的拐點(diǎn)，便是開啟新一輪智算征程。作為AI加速滲透的強(qiáng)大后盾，天翼云在智能時代的壯麗征程才剛剛拉開序幕。