加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • 1 CDN服務(wù)綜述
    • 2 智算服務(wù)綜述
    • 3 智算行業(yè),未來往何處去?
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

智算中心正在CDN化

12/09 09:43
1082
閱讀需 9 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

 

編者按

CDN行業(yè),整體不怎么賺錢。核心原因在于,用戶的業(yè)務(wù)系統(tǒng)構(gòu)建在公有云或自建的私有云。僅僅是調(diào)用CDN資源,對(duì)CDN服務(wù)沒有依賴。當(dāng)有稍微便宜哪怕僅1%的其他CDN資源時(shí),客戶瞬間遷走。智算行業(yè),目前的業(yè)務(wù)模式在無限接近CDN??蛻舻臉I(yè)務(wù)系統(tǒng)部署在通用云計(jì)算上,只是在關(guān)鍵的智能計(jì)算服務(wù)時(shí),調(diào)度內(nèi)部或外部的智算算力資源。智算中心,無法為客戶提供高價(jià)值的服務(wù),無法形成用戶粘性。沒有差異化,唯一能拼的就是誰的價(jià)格更低。還有一個(gè)更大的風(fēng)險(xiǎn):智算的投入,相比CDN來說,數(shù)量級(jí)倍增。不賺錢,更高投入就意味著更高風(fēng)險(xiǎn)。智算中心行業(yè),未來發(fā)展該往何處去?

1 CDN服務(wù)綜述

1.1 CDN技術(shù)簡(jiǎn)介

CDN(Content Delivery Network,內(nèi)容分發(fā)網(wǎng)絡(luò)),使得用戶可就近取得所需內(nèi)容,CDN分擔(dān)了內(nèi)容源的訪問壓力,同時(shí)提高了用戶訪問網(wǎng)站的響應(yīng)速度。? ?如圖所示,當(dāng)用戶訪問某個(gè)域名地址的內(nèi)容時(shí),內(nèi)容源站發(fā)現(xiàn)是一個(gè)cdn地址,然后會(huì)給客戶動(dòng)態(tài)分發(fā)一個(gè)新的IP地址,這個(gè)地址不是源內(nèi)容的地址,而是用戶就近位置的CDN緩存的內(nèi)容,然后用戶去這個(gè)新地址訪問內(nèi)容。

1.2 CDN業(yè)務(wù)模式的問題

CDN服務(wù)的問題,不在服務(wù)機(jī)制內(nèi)部。而在于CDN和用戶業(yè)務(wù)的交互??蛻舻臉I(yè)務(wù)通常部署在公有云,或者用戶自建的私有云。當(dāng)需要CDN的時(shí)候,會(huì)額外購買CDN服務(wù)。CDN服務(wù)有三個(gè)特點(diǎn):

    一個(gè)是業(yè)務(wù)流水大,非常適合于各個(gè)CDN企業(yè)快速做大業(yè)務(wù)規(guī)模。為了拉升業(yè)務(wù)規(guī)模,就相互之間以更低的價(jià)格競(jìng)爭(zhēng)客戶。另一個(gè)是,CDN業(yè)務(wù)差異性非常小??蛻舨惶舴?wù)商,隨便哪家都可以用;用戶只挑價(jià)格。最后就是,CDN服務(wù)對(duì)用戶沒有任何粘性。用戶只需一行代碼,即可快速從一個(gè)CDN服務(wù)切換到另一個(gè)CDN服務(wù)。

也因此,整個(gè)行業(yè)瘋狂內(nèi)卷,直到大家都奄奄一息。

2 智算服務(wù)綜述

2.1 智算租賃模式

智算行業(yè),目前主要是以裸機(jī)租賃的方式。裸機(jī)租賃是一個(gè)比較初級(jí)的方式,數(shù)百萬購買的硬件設(shè)備,其價(jià)值的挖掘不是由算力中心側(cè)負(fù)責(zé)。而是直接就租賃給了客戶。有點(diǎn)像石油、礦產(chǎn)等原材料,沒有通過深加工把它煉化成初級(jí)工業(yè)品。在整個(gè)工業(yè)鏈條里分利太少,白白浪費(fèi)了寶貴的原材料。GPU服務(wù)器,就是智算行業(yè)的原材料,它需要經(jīng)過深加工,把它封裝成更高級(jí)的算力服務(wù),才能賺取更多的收益。

這里我們舉一個(gè)例子,假設(shè)一些量化的數(shù)據(jù),來簡(jiǎn)單解釋一下。假設(shè)一個(gè)12核CPU(C)和一個(gè)12G帶寬的網(wǎng)卡(N)組成的物理服務(wù)器(僅考慮CPU和網(wǎng)絡(luò),問題能簡(jiǎn)單一點(diǎn),已經(jīng)能夠說明問題)。如上圖,我們通過四種方式實(shí)現(xiàn)多種規(guī)格的算力:

    假設(shè)這臺(tái)服務(wù)器成本為10元。第一種,傳統(tǒng)算力租賃方式。完全物理的服務(wù)器,僅可售賣一臺(tái)服務(wù)器,同時(shí)假設(shè)一對(duì)C+N為1元,總共賣客戶12元。
    第二種,基本虛擬化??梢詫?shí)現(xiàn)算力切分,這樣,我們可以把一臺(tái)物理的機(jī)器切分成四臺(tái)虛擬的機(jī)器,可售賣4臺(tái)計(jì)算實(shí)例。跟第一種其實(shí)就是批發(fā)和零售的關(guān)系。賣四臺(tái),每對(duì)C+N賣1.5元,可以賣18元。
    第三種,精細(xì)虛擬化。不同的計(jì)算對(duì)各類資源的需求并不是完全對(duì)等的,可以針對(duì)需求分配多一些的某種資源,其他需求少的資源可以少分配一些。這樣,我們可以把一臺(tái)物理的機(jī)器切分成6臺(tái)虛擬的機(jī)器,可售賣的機(jī)器實(shí)例變成6個(gè)。客戶僅關(guān)注某個(gè)資源,我們把1對(duì)C+N賣1.5元,把額外的C或N賣1元,這樣算下來,就是21元。
    第四種,軟硬件協(xié)同優(yōu)化。通過硬件級(jí)的性能隔離、更高效的遷移調(diào)度,能夠?qū)崿F(xiàn)用戶業(yè)務(wù)無感情況下的超賣,這樣可售賣的機(jī)器數(shù)量會(huì)繼續(xù)增加。通過高效的調(diào)度,保守估計(jì),超售比可以做到1.2以上。這樣,21*1.5 = 31.5元。

成本10塊,最終可以賣到31.5元。當(dāng)然,我們可以把這些可能的收益反向降價(jià)讓利給用戶。因?yàn)楦銠C(jī)租賃相比,有非常大的降價(jià)空間,所以可以游刃有余的根據(jù)市場(chǎng)情況,既給客戶更低的成本,又能保持自己產(chǎn)品的競(jìng)爭(zhēng)力。這里舉例的僅僅是IaaS級(jí)的服務(wù),還沒有增加CaaS、PaaS、MaaS以及場(chǎng)景和行業(yè)解決方案等方面的價(jià)值。回頭再看裸機(jī)租賃方式,是不是有點(diǎn)暴殄天物?

2.2 智算算力調(diào)度

開門見山,直接說個(gè)人的看法。我覺得目前的智算算力調(diào)度走進(jìn)了一個(gè)誤區(qū)。目前的算力調(diào)度機(jī)制來源于HPC場(chǎng)景的調(diào)度機(jī)制。也就是這種短期任務(wù)的調(diào)度(關(guān)于算力調(diào)度,之前有專門的文章介紹,這里不展開),跟客戶業(yè)務(wù)系統(tǒng)常駐型的任務(wù)調(diào)度完全不同。Slurm系統(tǒng)來源于HPC場(chǎng)景,天然就是原生支持這種短期任務(wù)型的計(jì)算。K8S,本來是親和于常駐型計(jì)算任務(wù)的,但行業(yè)我了解到的情況是,智算目前基于K8S的管理系統(tǒng),也是以這種短期任務(wù)為主的。這樣就產(chǎn)生一個(gè)非常尷尬的現(xiàn)實(shí)。用戶的業(yè)務(wù)系統(tǒng),通常需要長(zhǎng)期處于運(yùn)行狀態(tài)的:C端的業(yè)務(wù)必然是7x24小時(shí)時(shí)刻不中斷, B端用戶的業(yè)務(wù)也大部分需要長(zhǎng)期穩(wěn)定運(yùn)行。這樣,客戶的業(yè)務(wù)系統(tǒng)就只能部署在公有云或用戶自建的私有云,而無法部署在智算中心。

2.3 智算業(yè)務(wù)模式,越來越像CDN

客戶的業(yè)務(wù)系統(tǒng)不在智算中心,在需要訓(xùn)練和推理的時(shí)候,才來訪問智算中心。智算中心,無法對(duì)客戶形成業(yè)務(wù)粘性;智算中心的業(yè)務(wù)模式是裸機(jī)租賃,同質(zhì)化嚴(yán)重,大家都只能陷入爭(zhēng)相殺價(jià)的內(nèi)卷。有沒有覺得,這跟CDN很像?CDN的現(xiàn)在,就是智算行業(yè)的未來。相比CDN行業(yè)來說,智算行業(yè)的投入,是天文數(shù)字。智算行業(yè)的問題只會(huì)更嚴(yán)重。往小了說,會(huì)影響行業(yè)中從投資人到從業(yè)者的收益。往大了說,會(huì)影響我國(guó)的人工智能事業(yè)發(fā)展。

3 智算行業(yè),未來往何處去?

不能僅提出問題,還應(yīng)盡可能給出可行的能夠解決問題的方案。智算行業(yè),未來往何處去?是向下,還是向上?向下,就是不斷的卷價(jià)格,“不是你死,就是我亡”,行業(yè)進(jìn)入一個(gè)低層次的持續(xù)內(nèi)卷。向上,就是不斷的卷技術(shù),卷服務(wù),給客戶提供更多精細(xì)化的增值服務(wù)。向下,我無話可說。向上,我可以展開聊聊:

    智算,不僅僅只是智算。圍繞著智算的場(chǎng)景,把智算和傳統(tǒng)通算,以及網(wǎng)絡(luò)、存儲(chǔ)、安全等方面的服務(wù)融合到一起,形成綜合全面的算力服務(wù)。整個(gè)服務(wù)堆棧,不斷向上。在裸機(jī)之上,封裝IaaS和CaaS,再疊加PaaS和MaaS。還需要針對(duì)業(yè)務(wù)場(chǎng)景,提供更多的以AI+為特色的場(chǎng)景和行業(yè)解決方案。
    新型終端業(yè)務(wù)場(chǎng)景的重點(diǎn)投入。隨著智能汽車、人形機(jī)器人等行業(yè)的興起,相比PC、手機(jī)和平板這樣的傳統(tǒng)終端,這類新型的大算力的終端,對(duì)云和邊緣的算力服務(wù),以及云邊端融合的整體解決方案,提出了更高的要求。新型大算力終端,是大模型AI+的重要落地場(chǎng)景,也是未來的數(shù)個(gè)萬億級(jí)新藍(lán)海市場(chǎng)。

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

公眾號(hào):軟硬件融合;CPU靈活性好但性能較差,ASIC性能極致但靈活性差,魚和熊掌如何兼得,同時(shí)兼顧性能和靈活性,我給出的方案是“軟硬件融合”。軟硬件融合不是說要軟硬件緊耦合,相反,是要權(quán)衡在不同層次和粒度解耦之后,再更加充分的協(xié)同。