摘要：摘要彈性計(jì)算服務(wù)是阿里云營收的中流砥柱和流量擔(dān)當(dāng)。實(shí)現(xiàn)產(chǎn)品到資源的精準(zhǔn)調(diào)度，并最大化資源使用效率，這，就是信息時(shí)代下的后羿系統(tǒng)需要提供的基本能力。這是后羿掌柜和強(qiáng)大的虛擬化團(tuán)隊(duì)的一次高水平運(yùn)作，可謂火中取栗。

摘要： 彈性計(jì)算服務(wù)ECS（Elastic Compute Service）是阿里云營收的中流砥柱和流量擔(dān)當(dāng)。作為各行業(yè)客戶新業(yè)務(wù)和技術(shù)創(chuàng)新的發(fā)動(dòng)機(jī)和使能者，ECS不僅能在10分鐘內(nèi)交付出一個(gè)中等體量互聯(lián)網(wǎng)公司所需的全部計(jì)算力，更能承載阿里集團(tuán)雙十一極大的峰值彈性需求以及互聯(lián)網(wǎng)巨頭客戶業(yè)務(wù)高峰所需的計(jì)算力，幫助所有用戶打破計(jì)算力邊界的限制。

1.引子

彈性計(jì)算服務(wù)ECS（Elastic Compute Service）是阿里云營收的中流砥柱和流量擔(dān)當(dāng)。作為各行業(yè)客戶新業(yè)務(wù)和技術(shù)創(chuàng)新的發(fā)動(dòng)機(jī)和使能者，ECS不僅能在10分鐘內(nèi)交付出一個(gè)中等體量互聯(lián)網(wǎng)公司所需的全部計(jì)算力，更能承載阿里集團(tuán)雙十一極大的峰值彈性需求以及互聯(lián)網(wǎng)巨頭客戶業(yè)務(wù)高峰所需的計(jì)算力，幫助所有用戶打破計(jì)算力邊界的限制。而默默工作在舞臺(tái)背后的正是ECS的調(diào)度系統(tǒng)，那個(gè)傳說中的“后羿”。作為一個(gè)創(chuàng)建交付了不計(jì)其數(shù)的虛擬機(jī)的資源調(diào)度系統(tǒng)，后羿帶來的感覺就像蒙娜麗莎的微笑，神秘而好奇。今天就讓我們扒一扒“后羿”的前世與今生。

2.上古起源：后羿誕生

時(shí)光機(jī)回到2009年，那時(shí)全球的科技公司都在布局著云計(jì)算，演繹的精彩絕倫、百家爭鳴，一如當(dāng)下風(fēng)口上的區(qū)塊鏈、人工智能和新零售。也就在這一年，阿里云初試鶯啼，在云計(jì)算領(lǐng)域開天辟地，自主研發(fā)了盤古、女媧、神農(nóng)、夸父和伏羲。這些上古大神共同組成了阿里云的云計(jì)算基礎(chǔ)系統(tǒng)平臺(tái)--飛天Apsara系統(tǒng)。后羿的誕生也就水到渠成，它基于飛天將計(jì)算（Host）、網(wǎng)絡(luò)（IP）和存儲(chǔ)（Pangu塊存儲(chǔ)）等資源統(tǒng)一調(diào)度并通過虛擬化技術(shù)生產(chǎn)出一臺(tái)臺(tái)可交付給用戶使用的虛擬服務(wù)器。2010年5月，第一個(gè)ECS集群在北京上線了。此時(shí)的后羿還是一個(gè)單純的小朋友，干的活就是虛擬機(jī)生產(chǎn)線的流程控制，頭腦（調(diào)度策略）也相對比較簡單，因?yàn)橐粋€(gè)集群內(nèi)都是同等機(jī)型、同一網(wǎng)絡(luò)Pod、同一個(gè)Pangu存儲(chǔ)，所以基本都是按靜態(tài)資源分配的方式進(jìn)行調(diào)度選擇。

3.工業(yè)革命：野蠻生長

唯快不破！是，就是這么快進(jìn)入“工業(yè)革命”了！雖然后羿還沒來得及懵懂幾下，但因?yàn)镋CS上線之后，業(yè)務(wù)量發(fā)展非常迅猛，妥妥地成為阿里云增長最快的業(yè)務(wù)，沒有之一。ECS很快用事實(shí)證明以虛擬機(jī)的方式出售計(jì)算力是云計(jì)算商業(yè)化最合適的路徑，它好比工業(yè)時(shí)代的蒸汽機(jī)，推動(dòng)著阿里云進(jìn)入了野蠻生長的時(shí)代。

ECS的規(guī)模很快達(dá)到了近百個(gè)飛天集群，而且每周都在繼續(xù)部署新的集群，加上每周至少發(fā)布一個(gè)新版本，這樣的節(jié)奏讓我們原來維護(hù)和升級后羿系統(tǒng)的同學(xué)不堪重負(fù)。哇，那些年一起使出洪荒之力的同學(xué)，還記得苦苦掙扎的模樣嗎？伴隨著規(guī)模的增長，后羿面對的簡單小世界一下子變成了星辰大海，調(diào)度面臨的復(fù)雜度與日俱增，需要突破網(wǎng)絡(luò)Pod，需要突破機(jī)房。成長的煩惱不可避免，新的系統(tǒng)架構(gòu)設(shè)計(jì)目標(biāo)，大Region級別的資源管理調(diào)度能力，快速迭代開發(fā)……

好在借力集團(tuán)的技術(shù)支撐，后羿采用了分布式服務(wù)的技術(shù)逐步重構(gòu)演進(jìn)。這期間最大的挑戰(zhàn)是業(yè)務(wù)在發(fā)展，不可能停下來給我們幾個(gè)月的時(shí)間去完成這個(gè)任務(wù)。我們使用先搭框架、再小步遷移的方案，在不影響業(yè)務(wù)發(fā)展的前提下，把一個(gè)一個(gè)功能模塊，從功能遷移到數(shù)據(jù)遷移，逐步完成系統(tǒng)升級切換，用時(shí)髦的話講這是給飛行中的飛機(jī)換引擎。換了引擎的后羿，從原來的單集群管控系統(tǒng)，升級到了基于分布式服務(wù)架構(gòu)實(shí)現(xiàn)的大Region多機(jī)房管控系統(tǒng)；調(diào)度策略由原來的集群內(nèi)簡單的資源分配模型升級到目前經(jīng)典的過濾器+權(quán)重因子評分模型；管理規(guī)模也由一套管控對應(yīng)最大數(shù)百臺(tái)物理機(jī)的集群變成了目前的一套管控可以管理數(shù)萬物理機(jī)規(guī)模的集群。經(jīng)過工業(yè)革命的錘煉，我們的后羿小伙子長大成人了。

這個(gè)時(shí)期ECS逐步完善的上層業(yè)務(wù)系統(tǒng)，主要提供了幾大能力：
標(biāo)準(zhǔn)化的ECS Open API接口，對接官網(wǎng)售賣和API用戶；
售賣約束，接入阿里云計(jì)費(fèi)系統(tǒng)，實(shí)現(xiàn)了ECS特有的計(jì)費(fèi)模式（包年包月、按量付費(fèi)等）；
在集群粒度配置業(yè)務(wù)屬性和售賣規(guī)格，按用戶的需求調(diào)度集群；
基本的庫存服務(wù)和水位控制。

4.信息時(shí)代：漸入佳境

如果說工業(yè)革命時(shí)代是規(guī)模這個(gè)單維度縱向量的高速發(fā)展，那么信息時(shí)代則是個(gè)性化、多元化的多維度發(fā)展。一方面，ECS吸引了越來越豐富的客戶群體，需求越來越多樣化，包括不同的價(jià)格需求、穩(wěn)定性需求、地域需求等等，這就需要ECS包裝出不同特點(diǎn)的產(chǎn)品滿足不同的客戶場景。另一方面，ECS相關(guān)的技術(shù)爆炸也帶來了“百家爭鳴”的盛況：虛擬網(wǎng)絡(luò)團(tuán)隊(duì)重點(diǎn)推出了用戶可以定制的VPC網(wǎng)絡(luò)；塊存儲(chǔ)團(tuán)隊(duì)推出高性能的SSD云盤和高性價(jià)比的混合SSD云盤，而ESSD云盤則實(shí)現(xiàn)了性價(jià)比和高性能的雌雄同體；虛擬化團(tuán)隊(duì)從最初的Xen全面遷移到KVM，同時(shí)推出了異構(gòu)計(jì)算GPU、FPGA虛擬化技術(shù)，并開始自研新一代的彈性裸金屬云服務(wù)器（神龍）。如此多的新產(chǎn)品和新特性對接的是底層幾十種物理機(jī)型、多種網(wǎng)卡和網(wǎng)絡(luò)架構(gòu)、多種虛擬化方案和虛擬存儲(chǔ)以及多種版本的虛擬網(wǎng)絡(luò)。實(shí)現(xiàn)產(chǎn)品到資源的精準(zhǔn)調(diào)度，并最大化資源使用效率，這，就是信息時(shí)代下的后羿系統(tǒng)需要提供的基本能力。

在野蠻生長期，集群級的調(diào)度由上層業(yè)務(wù)層負(fù)責(zé)、集群內(nèi)的調(diào)度由后羿負(fù)責(zé)，因?yàn)楫?dāng)時(shí)每個(gè)集群部署一種業(yè)務(wù)，團(tuán)隊(duì)的設(shè)置也是按這樣分兩層。但現(xiàn)在為了支撐豐富的產(chǎn)品形態(tài)和優(yōu)化庫存效率，同一集群內(nèi)的每個(gè)物理機(jī)都可能售賣不同的產(chǎn)品規(guī)格，原來那種分層的調(diào)度顯然已經(jīng)不合時(shí)宜了。我們進(jìn)行了一次合體手術(shù)，重新定義了上下系統(tǒng)的職責(zé)分工，上層業(yè)務(wù)系統(tǒng)負(fù)責(zé)業(yè)務(wù)功能，下層后羿系統(tǒng)負(fù)責(zé)所有的調(diào)度相關(guān)邏輯。統(tǒng)一了調(diào)度邏輯，不僅僅大大提高了后羿的調(diào)度能力，同時(shí)可以讓調(diào)度技術(shù)驅(qū)動(dòng)產(chǎn)生了更多豐富的產(chǎn)品形態(tài)。列舉下這個(gè)時(shí)期調(diào)度技術(shù)主要支撐的系統(tǒng)功能和產(chǎn)品：

彈無虛發(fā)-的精準(zhǔn)調(diào)度

后羿基于Tag標(biāo)簽對資源進(jìn)行分組和篩選，可在AZ大范圍內(nèi)實(shí)現(xiàn)精細(xì)的產(chǎn)品規(guī)格調(diào)度。豐富的權(quán)重因子，讓后羿可以在多個(gè)目標(biāo)下權(quán)衡出最優(yōu)的調(diào)度決策，最佳配比裝箱（最少碎片）那是最低要求，其他的隨便舉幾個(gè)例子：
Deployment Set：滿足用戶自定義的部署位置要求，例如物理機(jī)粒度打散幾個(gè)VM
資源消費(fèi)打散：保障性能SLA，提升用戶體驗(yàn)
客戶VM打散
機(jī)架功耗平衡
……

神機(jī)妙算的庫存精細(xì)管理

其實(shí)VM調(diào)度只是后羿的業(yè)務(wù)愛好，庫存管理才是后羿的本職工作。由于產(chǎn)品形態(tài)的多樣性，同一個(gè)地域同一個(gè)產(chǎn)品規(guī)格按不同付費(fèi)類型、不同的付費(fèi)時(shí)間計(jì)算出來的庫存數(shù)據(jù)都是不同的！很多人知道電商的必殺技之一就是庫存和供應(yīng)鏈管理，后羿其實(shí)就是一個(gè)在網(wǎng)上賣VM的掌柜而已啦。他在背后可是耍了很多小聰明的：
庫存水位控制：保障每個(gè)可用區(qū)的每個(gè)產(chǎn)品的在接近斷供時(shí)可以保障剛需彈性擴(kuò)容和升級需求；
庫存共享：應(yīng)付多種產(chǎn)品的不時(shí)之需；
庫存預(yù)測：預(yù)測銷售并相應(yīng)地進(jìn)行庫存調(diào)配

賣跳樓價(jià)的競價(jià)實(shí)例

1折的跳樓價(jià)后羿掌柜也敢賣？！是的，他已經(jīng)賣好久了。這是一種叫競價(jià)實(shí)例的游戲，而在游戲中坐莊的正是后羿。說白了，他就是把那些暫時(shí)空在那里的資源拿出來臨時(shí)賣一下。為什么是”臨時(shí)“？因?yàn)楹篝嘣趲齑娉湓r(shí)才賣競價(jià)實(shí)例，庫存緊張時(shí)就要收回去。但是回收實(shí)例也是有講究的，不是隨便回收的，比如要保證至少運(yùn)行1小時(shí)，要提前5分鐘通知，如此等等。那為什么要競價(jià)？在資源緊張的地區(qū)多賣點(diǎn)錢？其實(shí)更重要的是跟庫存的聯(lián)動(dòng)，是一種價(jià)格杠桿，讓客戶主動(dòng)去選擇價(jià)格便宜庫存充足的地區(qū)和規(guī)格。這其實(shí)就是調(diào)度客戶，背后的道道其實(shí)真不少。

火中取栗的性能突發(fā)實(shí)例

競價(jià)實(shí)例雖價(jià)格便宜，量又足， 無奈的是因?yàn)樗鼤?huì)被隨時(shí)中止釋放，所以適合的業(yè)務(wù)場景有限或者需要技術(shù)能力架構(gòu)適配才能愉快使用。 有沒有價(jià)格便宜，又不用擔(dān)心被釋放的高性價(jià)比實(shí)例類型呢？價(jià)格便宜、服務(wù)有保障的性能突發(fā)實(shí)例了解一下。這是后羿掌柜和ECS強(qiáng)大的虛擬化團(tuán)隊(duì)的一次高水平運(yùn)作，可謂火中取栗。但在強(qiáng)大的技術(shù)保障下，后羿把一個(gè)物理線程掰成小片片拿出來賣，而且還能保障SLA。計(jì)算力在空閑時(shí)積攢人品（Credit），在需要突發(fā)計(jì)算力時(shí)來消費(fèi)人品（Credit），未來還能拿錢來買Credit。

智能未來：演繹神話
未來的大門已然開啟，智能的時(shí)代已經(jīng)到來。在經(jīng)歷了野蠻生長和豐富功能的階段后，后羿步入了深水區(qū)，需要更多的智慧和更廣闊的視野來精耕細(xì)作。云計(jì)算的核心競爭力之一就是性價(jià)比，后羿未來要做的就是數(shù)據(jù)驅(qū)動(dòng)的全鏈路、精細(xì)化的庫存調(diào)配和調(diào)度一體化的大閉環(huán)，并在各個(gè)環(huán)節(jié)上挖掘使用更智能的方法帶來的紅利，從數(shù)據(jù)的可視化、到運(yùn)營的自動(dòng)化到最后實(shí)現(xiàn)綜合的智能化。
后羿的故事還在繼續(xù)。伴隨著ECS業(yè)務(wù)的發(fā)展，風(fēng)風(fēng)雨雨的路上，我們眼里一路奇峰異景，執(zhí)著前進(jìn)！塊存儲(chǔ)、虛擬化、虛擬化網(wǎng)絡(luò)、ECS管控，一群有情有義的兄弟姐妹，一個(gè)凝聚力彪悍的團(tuán)隊(duì)。當(dāng)然，后羿是站在了巨人的肩膀上，他的成長離不開飛天云計(jì)算平臺(tái)強(qiáng)大的核心技術(shù)和阿里云各個(gè)產(chǎn)品的All-In支持！很慶幸在阿里集團(tuán)，兄弟團(tuán)隊(duì)無私的合作和幫助，能讓后羿未來真正可以成為一個(gè)業(yè)界的神話。

原文鏈接