144
補(bǔ)足劣勢，放大自己的優(yōu)勢
隨著互聯(lián)網(wǎng)以及移動互聯(lián)網(wǎng)的興起，非結(jié)構(gòu)化數(shù)據(jù)呈現(xiàn)指數(shù)級增長，存儲容量成為了大多數(shù)生成和使用大量非結(jié)構(gòu)化數(shù)據(jù)的用戶和企業(yè)面臨的首要挑戰(zhàn)。
用戶或者企業(yè)必須購買更多的存儲基礎(chǔ)設(shè)施，并將其堆疊在現(xiàn)有基礎(chǔ)設(shè)施之上。這種方法在非結(jié)構(gòu)化數(shù)據(jù)線性增長的情況下有效，但對于處理當(dāng)今指數(shù)級增長的數(shù)據(jù)來說，既繁瑣又低效。
而對象存儲通過分布式系統(tǒng)，將節(jié)點部署在任何需要的地方，都可以邊收集數(shù)據(jù)邊執(zhí)行分析，而不必通過網(wǎng)絡(luò)發(fā)送所有原始的非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行處理。這一高效而低成本的特性，使得對象存儲迅速取代了存儲區(qū)域網(wǎng)絡(luò)(SAN)和網(wǎng)絡(luò)連接存儲(NAS)，成為了存儲界的新網(wǎng)紅。
實際上，早在1996年，美國卡內(nèi)基梅隆大學(xué)就將對象存儲作為一個研究項目提出來。隨后，加州大學(xué)伯克利分校也有推出類似的項目。2002年，F(xiàn)ilepool公司推出了基于內(nèi)容可尋址技術(shù)的Centera系統(tǒng)，算是比較早期的對象存儲系統(tǒng)。
2006年，當(dāng)亞馬遜推出AWS S3（Simple Storage Service）存儲服務(wù)后，正式將對象存儲作為一項云存儲服務(wù)，引入云計算領(lǐng)域，從此開啟了對象存儲的黃金時代。
但在國內(nèi)，對象存儲則起步較晚，領(lǐng)頭者也是鳳毛麟角，作為云計算領(lǐng)域的國家隊，天翼云于2013年走上了自主研發(fā)的道路，并在2015年實現(xiàn)了“跨區(qū)域復(fù)制”這一業(yè)內(nèi)領(lǐng)先的能力。
此后，更是發(fā)揮了中國電信帶寬優(yōu)勢，打造了一個強(qiáng)一致性的國家級存儲網(wǎng)絡(luò)，讓用戶可實現(xiàn)就近訪問和讀寫數(shù)據(jù)，大幅提升用戶體驗，并且提高開發(fā)者的效率。并攻克“廣域網(wǎng)環(huán)境下如何確保穩(wěn)定性”的技術(shù)難點，降低了網(wǎng)絡(luò)波動對存儲系統(tǒng)的影響，提升服務(wù)穩(wěn)定性。
就在2018年6月，天翼云和云上貴州已于6月底正式簽署《基礎(chǔ)設(shè)施協(xié)議》，這標(biāo)志著自2018年2月28日中國內(nèi)地的iCloud業(yè)務(wù)由云上貴州負(fù)責(zé)運營后，中國電信天翼云將和云上貴州共同為iCloud提供云存儲服務(wù)，該筆簽約是業(yè)內(nèi)目前最大的云計算存儲類訂單。
契機(jī)之下，雷鋒網(wǎng)與中國電信首席專家江峰進(jìn)行了一次深度對話，還原天翼云打造“國家級存儲網(wǎng)絡(luò)”的歷程。
1、從12年的路標(biāo)看未來
2009年，中國電信正式啟動“翼云計劃” ，也就是天翼云的前身。
2012年8月，中國電信對外發(fā)布了云計算戰(zhàn)略及解決方案，成為國內(nèi)首家發(fā)力云計算的電信運營商。而彼時，天翼云對外提供的云服務(wù)還不是今天的OOS對象存儲服務(wù)。
“2012年，我們從集團(tuán)調(diào)到云計算公司的時候，大家其實還不知道什么是對象存儲，只知道存儲就是磁盤陣列軟件系統(tǒng)。”
江峰對雷鋒網(wǎng)回憶到，雖是這樣說，站在2012年路標(biāo)時的他也隱隱的感覺到，對象存儲是未來的一個發(fā)展方向。
但就在一年前，中國電信集團(tuán)已經(jīng)為云計算公司集采了一批商用存儲，而這批設(shè)備使用的是CSRP規(guī)范，雖然也是S3的一種，但實際上卻是中國電信自己造的一稿規(guī)范，而基于這個規(guī)范開發(fā)的云產(chǎn)品上市之后，卻發(fā)現(xiàn)CSRP規(guī)范沒人用。
右二為江峰
而為了給用戶一個好的體驗，江峰團(tuán)隊決定將上層調(diào)度先規(guī)劃好，底層引擎仍然使用各家的產(chǎn)品，能滿足基本的可用要求即可。
然而在實踐中發(fā)現(xiàn)，如果需要良好的性能，就要將它的產(chǎn)品拆開，要將上層的接口直接訪問底層引擎上。
“廠商知道這樣的性能好，但是他們不愿意暴露底層引擎接口。但廠家在引擎之上再封裝一套接口給我，性能就不行了。”
擺在他們面前只有兩條路了，要么維持現(xiàn)狀繼續(xù)下去，要么自主研發(fā)，完全做一套自己的存儲引擎。
“那個時候我們花了很多的時間去糾結(jié)到底要不要自己做，還是拿一套開源的修改一下，因為自己做還是很難的一件事情。”
最終經(jīng)過不斷論證之后，天翼云存儲團(tuán)隊決定了自己研發(fā)，而且還決定了不基于任何開源。
一行行代碼敲下來，就在2014年，一款設(shè)計最大容量為256PB的OOS V4.0版本面世了。這是第一代分布式存儲引擎。
“當(dāng)時我們認(rèn)為256PB這一容量上限，可以滿足10年的需求。”江峰回憶到。
然而，就在OOS v4.0面世沒多久，需求就已經(jīng)超過了1000PB，而且要求在一個集群里搞定。面對這一情況，天翼云存儲團(tuán)隊從頭開始研發(fā)，將數(shù)據(jù)結(jié)構(gòu)全部進(jìn)行調(diào)整，對于數(shù)據(jù)容量上限，也不再去設(shè)立目標(biāo)。
不久之后，OOS v5.0版本也投入使用，不僅僅做到了數(shù)據(jù)結(jié)構(gòu)層面沒有了容量上限的，并且還實現(xiàn)了全國范圍內(nèi)的異地冗余，雖然不是強(qiáng)一致性的，但也是國內(nèi)首個可以實現(xiàn)異地冗余的對象存儲產(chǎn)品。
2、瞄準(zhǔn)一個特性“死磕”
“從我們團(tuán)隊這么多年的經(jīng)驗來說，對象存儲需要瞄準(zhǔn)一個特性一直做下去，這個特性就是：低成本。”江峰對雷鋒網(wǎng)說到。
為了低成本這個特性，江峰這個團(tuán)隊可謂是較勁腦汁。
在OOS V4.0開發(fā)之時，為了減少用戶存儲容量浪費，在保證數(shù)據(jù)穩(wěn)定的前提下，他們?yōu)榇鎯Φ臄?shù)據(jù)提供動態(tài)冗余算法，會根據(jù)用戶數(shù)據(jù)的具體情況，來決定是采用糾刪碼還是多副本更節(jié)省用戶的存儲空間。
通過動態(tài)冗余算法，天翼云可以一直將用戶存儲容量浪費減小到最低限度，既能保證數(shù)據(jù)的持久性還能為客戶降低成本。
軟件層面將成本降低之后，江峰又將目光瞄向了硬件層面。他發(fā)現(xiàn)，要想增加單磁盤容量，就要增加介質(zhì)的磁密度。但受限于物理工藝，再要增加磁密度會變得越來越難了。而磁盤廠商在這樣的情況下，研發(fā)了疊瓦式磁盤，將密度再次提高。
熟悉的朋友比較清楚，疊瓦式磁盤(SMR)增加了容量，降低了成本，但這種技術(shù)應(yīng)用也帶來了問題與挑戰(zhàn)。磁道重疊后必須順序?qū)懭耄駝t會對相鄰磁道的數(shù)據(jù)造成損壞。正因為如此，目前業(yè)內(nèi)常用的磁盤文件系統(tǒng)，例如EXT/XFS等，由于需要隨機(jī)的修改數(shù)據(jù)從而無法運行在SMR磁盤上，這對SMR的應(yīng)用帶來了不小的困難。
因此，SMR技術(shù)一直都被業(yè)內(nèi)大多數(shù)企業(yè)“嫌棄”并不使用，而這也正是希捷和西數(shù)這兩家硬盤企業(yè)所頭疼的地方，并沒有相關(guān)的生態(tài)去支持他們這個產(chǎn)品，也就導(dǎo)致了這種磁盤并沒有文件系統(tǒng)可以使用。但在那時，微軟Azure等極個別國際云計算巨頭卻規(guī)模商用SMR磁盤。
這一切都被江峰看在眼里，因此在SMR磁盤上市的第一時間就聯(lián)系相關(guān)服務(wù)器和磁盤供應(yīng)商，開始了對SMR磁盤的測試。
經(jīng)過測試后，他們發(fā)現(xiàn)雖然SMR磁盤的應(yīng)用存在諸多技術(shù)挑戰(zhàn)，但通過行業(yè)領(lǐng)先廠商的產(chǎn)品趨勢可以看到未來硬盤的發(fā)展方向，SMR技術(shù)將成為主流，即使未來會有諸如HAMR等進(jìn)一步提升磁密度的技術(shù)出現(xiàn)，只要寫數(shù)據(jù)寬度大于讀數(shù)據(jù)寬度，SMR技術(shù)就會一直存在。
因此天翼云OOS的研發(fā)團(tuán)隊從2015年起就堅定不移的對Host Managed SMR進(jìn)行自主研發(fā)。在軟件層做了大量的優(yōu)化、消除，解決了技術(shù)提升帶來的負(fù)面影響，突破了SMR的技術(shù)局限性，體現(xiàn)疊瓦式存儲給單碟存儲容量提升帶來的優(yōu)勢，既能夠提高單機(jī)存儲容量的上限，又可以避免帶來讀寫效率、讀寫性能上的瓶頸。
同時，結(jié)合OOS的特點，天翼云設(shè)計了可以兼容SMR磁盤的一套類似文件系統(tǒng)的Key-Value存儲系統(tǒng)——KVDisker。結(jié)合對象存儲的特性，KVDisker能夠有效降低SMR技術(shù)引用帶來的問題與風(fēng)險，將技術(shù)與應(yīng)用完美融合，天翼云開創(chuàng)了將SMR磁盤有效應(yīng)用于云存儲服務(wù)領(lǐng)域的先河，此舉也將天翼云對象存儲成本降低了20%以上。
值得一提的是，KVDisker也是天翼云存儲團(tuán)隊完全自主研發(fā)，不基于任何已有文件系統(tǒng)(如EXT/XFS)及任何支持SMR的開源軟件，實現(xiàn)直接讀寫磁盤的技術(shù)。
在2015年，規(guī)模使用了SMR硬盤之后，江峰又將目光瞄向了服務(wù)器上，結(jié)合中國電信的實際情況之后，江峰向中國電信集團(tuán)提出，要定制可以容納60個盤的服務(wù)器，而相比于其他廠商，大多廠商的服務(wù)器只能容納20多個盤而已。
容納60個磁盤的服務(wù)器，并只采用一路CPU，而通過這樣的方式，天翼云存儲團(tuán)隊再將采購成本降低了50%以上，在實際使用中，服務(wù)器的CPU利用率也只有20%。
“之前跟互聯(lián)網(wǎng)公司相比，很多人都會覺得成本方面，對于天翼云來說是一個劣勢，通過我們不斷優(yōu)化之后，我們在成本方面具備了與互聯(lián)網(wǎng)公司同樣的優(yōu)勢。”
而在這之后，如何將自己的優(yōu)勢放大，則也成為了江峰接下來考慮的重要方向。
如何做一個“國家級存儲網(wǎng)絡(luò)”
“2015年之后，我就在想中國電信的優(yōu)勢究竟是什么？中國電信的優(yōu)勢就是有網(wǎng)絡(luò)，別人做分布式存儲都是建一個個資源池，看起來是把資源池連起來了，但實際上這些資源池只是在管理上連接起來了，數(shù)據(jù)平面沒有打通。”
在2016年一個知名的云計算大會上，江峰提出，要利用中國電信的帶寬資源，將國內(nèi)的所有資源池連接起來，做成一個國家級存儲網(wǎng)絡(luò)。
我們在前文中提到，在OOS v5.0時，中國電信就已經(jīng)實現(xiàn)了異地冗余，但是弱一致性的，也就是說，你在北京寫入數(shù)據(jù)之后，需要過一段時間才能備份到上?；蛘咂渌胤?。
而現(xiàn)在，江峰所提出的國家級存儲網(wǎng)絡(luò)要實現(xiàn)的是強(qiáng)一致性的，用戶可實現(xiàn)就近訪問和讀寫數(shù)據(jù)，大幅提升用戶體驗，并且提高開發(fā)者的效率，不用再擔(dān)心用戶在哪，要把資源建在哪里。
“國家級存儲網(wǎng)絡(luò)”事實上就是把全國的云存儲OOS資源池用高速網(wǎng)絡(luò)互連起來，對外呈現(xiàn)為一個統(tǒng)一的云存儲資源池，無論用戶通過哪個物理資源池訪問OOS，看到的都是同一個視圖。
“國家級存儲網(wǎng)絡(luò)”的核心技術(shù)在于以下三點：
一是如何高效管理數(shù)量眾多、規(guī)模巨大的資源池集群，這本身就是一個復(fù)雜的系統(tǒng)工程；
二是如何讓每個用戶從不同的資源池看到同一個視圖，這不僅要求資源池之間具備“高速通道”，還要求OOS本身在擴(kuò)展性、效率方面有精巧的設(shè)計；
三是如何在相隔數(shù)千公里的多個資源池之間，既保證數(shù)據(jù)的一致性，又提供極低的延遲。
就在天翼云將資源池跨廣域網(wǎng)部署之后，他們發(fā)現(xiàn)廣域網(wǎng)環(huán)境經(jīng)常會發(fā)生網(wǎng)絡(luò)抖動的情況，而這一情況不解決的話，服務(wù)穩(wěn)定性很難保證。此外，江峰還發(fā)現(xiàn)，在廣域網(wǎng)環(huán)境中，TCP網(wǎng)絡(luò)都不可靠，當(dāng)數(shù)據(jù)跨越千里傳輸?shù)臅r候，你可能發(fā)出123，但經(jīng)過光網(wǎng)長距離傳輸，對方則有概率收到的是321，還不報錯。
后來經(jīng)過研究發(fā)現(xiàn)，IPv4協(xié)議有一個弱點，校驗位不足的情況下會出現(xiàn)概率性的錯誤，但徹底解決這個問題并不是一件易事。
對此，內(nèi)部多次開會進(jìn)行了溝通，最后，中國電信云計算分公司現(xiàn)任總經(jīng)理胡志強(qiáng)，提出了一個要求：必須要自主研發(fā)。
最終，江峰帶領(lǐng)團(tuán)隊通過不斷努力，終于攻克了“廣域網(wǎng)環(huán)境下如何確保穩(wěn)定性”的技術(shù)難點，降低了網(wǎng)絡(luò)波動對存儲系統(tǒng)的影響，提升了服務(wù)的穩(wěn)定性。同時，基于全局元數(shù)據(jù)環(huán)技術(shù)，實現(xiàn)了跨地域的分布式架構(gòu)“虛擬存儲網(wǎng)絡(luò)”和“業(yè)務(wù)場景敏感的數(shù)據(jù)交付”模型。
從那時起，中國電信的存儲網(wǎng)絡(luò)OOS就擁有了資源統(tǒng)一，就近訪問，多站點多活等功能，滿足用戶在強(qiáng)一致性和最終一致性間進(jìn)行靈活選擇。
不僅如此，天翼云存儲團(tuán)隊在此基礎(chǔ)之上針對部分政企客戶推出了高級特性，不僅保證其數(shù)據(jù)的安全，同時也降低其存儲成本。
就在這一網(wǎng)絡(luò)建成之后，天翼云存儲也獲得了當(dāng)時業(yè)內(nèi)最大的一筆云存儲訂單：為云上貴州運營的iCloud提供底層云存儲服務(wù)。
云上貴州項目組合影
而其所看重的，正是天翼云可以實現(xiàn)全國各地都可以實現(xiàn)就近服務(wù)，這也使得，iCloud訪問同步速度更快，體驗大幅提升。
3、獨立之后，仍需苦練內(nèi)功
天翼云存儲網(wǎng)絡(luò)上的數(shù)據(jù)早已經(jīng)超過EB，在可用性上，已經(jīng)實現(xiàn)了數(shù)十個月內(nèi)每周的服務(wù)可用性超99.995%。而這也正是天翼云不斷堅持自主研發(fā)所取得的成果。
中國電信剛剛發(fā)布的財報顯示，2020年中國電信全網(wǎng)云計算收入達(dá)138億元，不光在以市場份額駁斥了運營商做不好云計算的理論。同時，中國電信是全球運營商中，第一家真正實現(xiàn)核心的IT系統(tǒng)去IOE的運營商，通過自主研發(fā)構(gòu)建了云網(wǎng)數(shù)智，全棧自研的體系，將技術(shù)能力轉(zhuǎn)化為數(shù)字化平臺推向市場。
此前，一紙任命書也正式官宣，中國電信要成立天翼云科技公司，這意味著天翼云將開始獨立運作，擺脫國企的體制限制，將有更大的自主權(quán)，可以自主提升員工的薪酬水平，以靈活激勵機(jī)制吸引人才。
而這必然會將天翼云的目前的劣勢進(jìn)一步填補(bǔ)，繼續(xù)苦練“內(nèi)功”，在此之下，天翼云未來可期。
