摘要：具體技術(shù)細(xì)節(jié)的補(bǔ)充中國(guó)人壽兩朵云的最底層的容器調(diào)度與管理都是使用了平臺(tái)。決定采納容器擁抱，對(duì)整個(gè)中國(guó)人壽而言都是一次重大的變革。對(duì)中國(guó)人壽這樣的傳統(tǒng)金融企業(yè)而言，上一個(gè)并不容易。

6月28日，Rancher Labs在北京舉辦了Container Day 2018容器技術(shù)大會(huì)。在大會(huì)上，Rancher Labs CEO及聯(lián)合創(chuàng)始人梁勝博士、中國(guó)人壽研發(fā)中心開(kāi)發(fā)五部副總經(jīng)理王川、技術(shù)處高級(jí)經(jīng)理鄭曉勇、開(kāi)發(fā)五部云計(jì)算架構(gòu)師張青南、ZStack CEO及創(chuàng)始人張?chǎng)芜M(jìn)行了一場(chǎng)圓桌討論。

本文整理摘取自圓桌討論環(huán)節(jié)的內(nèi)容，由中國(guó)人壽的嘉賓分享了中國(guó)人壽使用容器技術(shù)、搭建金融PaaS云平臺(tái)的心路歷程，以及存儲(chǔ)、網(wǎng)絡(luò)、CI/CD、微服務(wù)、數(shù)據(jù)庫(kù)拆分等具體技術(shù)細(xì)節(jié)和經(jīng)驗(yàn)。

中國(guó)人壽容器使用情況如何？

中國(guó)人壽從2016年底開(kāi)始做技術(shù)調(diào)研，于2017年正式開(kāi)始利用容器技術(shù)搭建金融PaaS云平臺(tái)，用了半年多的時(shí)間完成了兩朵云環(huán)境的搭建，一朵是開(kāi)發(fā)測(cè)試的云環(huán)境，一朵是生產(chǎn)的云環(huán)境。中國(guó)人壽在開(kāi)發(fā)測(cè)試云環(huán)境里做了持續(xù)集成，兩朵云之間通過(guò)持續(xù)交付進(jìn)行打通。最后又用了半年多時(shí)間在內(nèi)部進(jìn)行推廣。

中國(guó)人壽的容器使用已經(jīng)比較深入了。開(kāi)發(fā)團(tuán)隊(duì)Java類(lèi)的應(yīng)用基本全部在開(kāi)發(fā)測(cè)試云上進(jìn)行了容器化，這占中國(guó)人壽總應(yīng)用數(shù)量的一半以上。在生產(chǎn)云環(huán)境上，從2017年底開(kāi)始，我們先將內(nèi)部應(yīng)用往生產(chǎn)云環(huán)境上搬；2018年6月一些對(duì)外的業(yè)務(wù)應(yīng)用也陸續(xù)完成往生產(chǎn)云的遷移，目前有兩個(gè)對(duì)外業(yè)務(wù)應(yīng)用已經(jīng)跑在生產(chǎn)云環(huán)境上。

在云規(guī)模上，目前中國(guó)人壽整個(gè)的云規(guī)模有服務(wù)器160多臺(tái)，云化的、容器化的應(yīng)用有94個(gè)，運(yùn)行托管的容器有1700多個(gè)。

具體技術(shù)細(xì)節(jié)的補(bǔ)充？

中國(guó)人壽兩朵云的最底層的容器調(diào)度與管理都是使用了Rancher平臺(tái)。Docker用的是17.03的版本。主機(jī)環(huán)境之前也嘗試過(guò)使用紅帽，最終遷到了Ubuntu上，使用的是Ubuntu 16.04。

重點(diǎn)說(shuō)一下網(wǎng)絡(luò)和存儲(chǔ)，中國(guó)人壽在網(wǎng)絡(luò)和存儲(chǔ)方面的選擇，在不同云環(huán)境上有不同的考量，開(kāi)發(fā)測(cè)試云和生產(chǎn)云是不同的。

在網(wǎng)絡(luò)方面，中國(guó)人壽在開(kāi)發(fā)測(cè)試環(huán)境上，使用的是IPsec管理的Overlay網(wǎng)絡(luò)。選擇Overlay網(wǎng)絡(luò)是因?yàn)?，雖然它可能架構(gòu)比較復(fù)雜，但最終使用時(shí)管理起來(lái)會(huì)比較容易，我們不用額外去給它準(zhǔn)備IP資源。在生產(chǎn)環(huán)境上，我們使用的是扁平網(wǎng)絡(luò)，扁平網(wǎng)絡(luò)的一個(gè)好處在于，它的IP跟整個(gè)大網(wǎng)里的IP是互通的。存在的問(wèn)題是我們要提前規(guī)劃網(wǎng)絡(luò)，規(guī)劃IP資源的使用。

在存儲(chǔ)方面，中國(guó)人壽在開(kāi)發(fā)測(cè)試環(huán)境上用的是Sun存儲(chǔ)，這樣的選擇和我們的實(shí)際情況有關(guān)，因?yàn)槲覀冊(cè)陂_(kāi)發(fā)測(cè)試環(huán)境上沒(méi)有足夠的NAS設(shè)備。但是中國(guó)人壽在生產(chǎn)環(huán)境上使用的就是NAS存儲(chǔ)了。

中國(guó)人壽最初為何決定采納容器、搭建PaaS？

我想來(lái)參加Rancher Container Day大會(huì)的在座各位肯定都是容器、PaaS的專(zhuān)家，大家也許會(huì)覺(jué)得，這個(gè)問(wèn)題的答案不是顯然的嗎？容器、PaaS能帶來(lái)這么大好處，當(dāng)然需要去建一個(gè)金融的PaaS平臺(tái)，不是嗎？但對(duì)中國(guó)人壽這樣一個(gè)傳統(tǒng)的金融國(guó)企而言，使用容器搭建PaaS平臺(tái)，其間也是有一些心路歷程值得分享的。

相信在不少組織中，研發(fā)程序員和運(yùn)維人員的關(guān)系都很微妙，中國(guó)人壽也是這樣，我們?cè)媾R下面這兩個(gè)問(wèn)題。

第一，程序員天性崇尚自由，但原先他寫(xiě)的程序都是局限在一個(gè)虛擬機(jī)上，程序員經(jīng)常需要向運(yùn)維小伙伴要求多加一臺(tái)機(jī)器，他們常覺(jué)得不方便、被限制。

第二，是發(fā)布新版本的問(wèn)題。中國(guó)人壽很多年前就希望能有快速的版本更新，比如看能不能每月都發(fā)一個(gè)版本，但后來(lái)并沒(méi)有成功。到了互聯(lián)網(wǎng)時(shí)代，我們對(duì)發(fā)版的頻度要求更高了，而中國(guó)人壽這樣一個(gè)傳統(tǒng)企業(yè)怎么去發(fā)版？到凌晨12點(diǎn)，然后停機(jī)。運(yùn)維小伙伴負(fù)責(zé)去升級(jí)，程序員也得在一旁候著。這么一個(gè)長(zhǎng)期的工作環(huán)境和形式，我們的程序員他們都心情很郁悶。

雖然我不是什么心理輔導(dǎo)師，但是我覺(jué)得我們應(yīng)該致力于給程序員創(chuàng)造一個(gè)良好的研發(fā)生態(tài)環(huán)境，實(shí)際上這也確實(shí)是很重要的。

當(dāng)時(shí)中國(guó)人壽也正好想要做X86的改造。我們以前很多應(yīng)用是跑在小型機(jī)上的，包括一些非常重的應(yīng)用。決定采納容器、擁抱PaaS，對(duì)整個(gè)中國(guó)人壽而言都是一次重大的變革。我們集結(jié)的PaaS實(shí)施團(tuán)隊(duì)在PaaS、容器這些方面都非常專(zhuān)業(yè)且很有興趣。對(duì)中國(guó)人壽這樣的傳統(tǒng)金融企業(yè)而言，上一個(gè)PaaS并不容易。Rancher產(chǎn)品功能很全面，幫我們快速解決了很多底層的基礎(chǔ)的問(wèn)題，不過(guò)我們?nèi)砸龊芏鄠鹘y(tǒng)應(yīng)用的適用性改造。不過(guò)最后事實(shí)也證明這樣一個(gè)變革、這樣一種投入是值得的。容器輕量、快速、標(biāo)準(zhǔn)，在資源調(diào)配與節(jié)約、應(yīng)用快速發(fā)布等等方面都解決了我們?cè)鹊耐袋c(diǎn)與困境。

有哪些挑戰(zhàn)、哪些經(jīng)驗(yàn)可以分享？

我們剛剛提到了【變革】這兩個(gè)字，的確，在中國(guó)人壽PaaS云平臺(tái)的搭建過(guò)程中，我們遇到過(guò)一些挑戰(zhàn)，其中有兩方面我想在此分享。第一個(gè)是用戶(hù)心理層面的問(wèn)題，第二個(gè)是中國(guó)人壽自身能力提升方面的問(wèn)題。

首先，新技術(shù)的使用和推廣，在用戶(hù)心理層面存在什么問(wèn)題？那就是，拍手叫好的多，但真正推廣、上線(xiàn)、遷移的時(shí)候，大家的實(shí)際心理接受程度又不一樣。我們?cè)趺从行У亟鉀Q這個(gè)問(wèn)題？中國(guó)人壽的PaaS云平臺(tái)，所面向的大部分用戶(hù)都是人壽內(nèi)部團(tuán)隊(duì)。于是我們選擇一些熱愛(ài)并擁抱這個(gè)這個(gè)系統(tǒng)和平臺(tái)的人來(lái)從頭到尾參與這個(gè)系統(tǒng)，讓接受度高的團(tuán)隊(duì)先做出一個(gè)樣板工程，以最終的優(yōu)秀成果為標(biāo)桿進(jìn)行更大范圍的推廣，讓其他團(tuán)隊(duì)的領(lǐng)導(dǎo)和成員看到實(shí)際的各項(xiàng)指標(biāo)，如性能、效率、成本等各方面的成果，以數(shù)據(jù)和指標(biāo)說(shuō)話(huà)，最終達(dá)到了中國(guó)人壽內(nèi)部大部分團(tuán)隊(duì)的應(yīng)用的容器化改造與遷移。

另外，還有自身能力的提升的問(wèn)題。畢竟中國(guó)人壽是一個(gè)傳統(tǒng)企業(yè)，對(duì)新技術(shù)的上手和落地可能不如互聯(lián)網(wǎng)公司那么快。所以我們一方面是加強(qiáng)自身團(tuán)隊(duì)的打造，一定要建立自己的容器技術(shù)團(tuán)隊(duì)；另一方面則要選擇借力一些已有的產(chǎn)品和解決方案，不新造輪子，比如選擇跟Rancher這樣的合作伙伴深入合作，這樣就能整體把這個(gè)事情給解決。

容器和PaaS給中國(guó)人壽帶去了哪些實(shí)際益處？

中國(guó)人壽使用容器技術(shù)、搭建PaaS平臺(tái)之后，兩大最顯著的益處，一個(gè)是資源和成本的節(jié)約，一個(gè)是研發(fā)效率的提升。

首先是資源和成本的極大節(jié)約。中國(guó)人壽正在做新一代整體架構(gòu)的改造，其中有很多新一代的核心系統(tǒng)。舉一個(gè)實(shí)際的例子，原先，有個(gè)團(tuán)隊(duì)去做一個(gè)新的架構(gòu)模式的開(kāi)發(fā)，申請(qǐng)了80臺(tái)虛機(jī)，然后發(fā)現(xiàn)這遠(yuǎn)不夠他做新一代建設(shè)，80臺(tái)虛機(jī)甚至搭不起一個(gè)開(kāi)發(fā)環(huán)境。當(dāng)時(shí)我們正好啟動(dòng)PaaS項(xiàng)目，就按照這80臺(tái)虛機(jī)的資源，把這80臺(tái)虛機(jī)托管到云上，在云環(huán)境下進(jìn)行新一代核心系統(tǒng)的開(kāi)發(fā)。原先，80臺(tái)虛機(jī)連一套開(kāi)發(fā)環(huán)境也托不起來(lái)；實(shí)際上在云環(huán)境下，我們托起了三套環(huán)境，資源才使用了2/3。這是一個(gè)資源的巨大節(jié)省。

我們后來(lái)也分析了一下，為什么搬到云上能節(jié)省到這么多資源？因?yàn)樵谔摍C(jī)環(huán)境下：第一，團(tuán)隊(duì)通常會(huì)超配申請(qǐng)資源，超額申請(qǐng)但最后并沒(méi)有使用到，從而導(dǎo)致了資源浪費(fèi)；第二，很多時(shí)候我們實(shí)際使用的系統(tǒng)很多，運(yùn)行的技術(shù)環(huán)境不同，有的運(yùn)行在紅帽上，有的運(yùn)行在Ubuntu上，有的中間件是Tomcat，有的是WebLogic……很多系統(tǒng)不能部署在同一臺(tái)機(jī)器上，必須分開(kāi)部署，需要的機(jī)器資源自然更多。

而使用容器之后，情況則不同了。針對(duì)第一個(gè)問(wèn)題，他只有在真正使用時(shí)才會(huì)占用資源，不用到的時(shí)候資源并沒(méi)被預(yù)先占用。針對(duì)第二個(gè)問(wèn)題，因?yàn)槿萜鬟M(jìn)行了一層又一層隔離，并且容器是一種標(biāo)準(zhǔn)化打包，所以在環(huán)境上也可以更加靈活，就不存在虛機(jī)那種強(qiáng)制要求分開(kāi)部署的情況。這就是容器給我們帶來(lái)的資源上的巨大節(jié)省。

另外一個(gè)就是研發(fā)效率的極大提升。就以申請(qǐng)環(huán)境這么一個(gè)過(guò)程為具體例子吧。因?yàn)橹袊?guó)人壽有研發(fā)中心和數(shù)據(jù)中心，通常是研發(fā)中心向我們架構(gòu)團(tuán)隊(duì)提出要求，架構(gòu)團(tuán)隊(duì)內(nèi)部討論審核這個(gè)資源要求合不合理；如果合理就給到數(shù)據(jù)中心的架構(gòu)團(tuán)隊(duì)，數(shù)據(jù)中心架構(gòu)團(tuán)隊(duì)再內(nèi)部溝通審核；如果數(shù)據(jù)中心架構(gòu)團(tuán)隊(duì)覺(jué)得要求不合理，那雙方再開(kāi)會(huì)來(lái)達(dá)成共識(shí)吧；之后再把這個(gè)達(dá)成共識(shí)的需求給到數(shù)據(jù)中心的運(yùn)維團(tuán)隊(duì)，運(yùn)維團(tuán)隊(duì)去制作虛機(jī)，然后安裝軟件，然后再交還給我們研發(fā)團(tuán)隊(duì)。這個(gè)流程相當(dāng)?shù)膹?fù)雜，一般我們申請(qǐng)一些機(jī)器、一些設(shè)備，需要大概一周左右的時(shí)間才能到位。但也沒(méi)有辦法，規(guī)模大、結(jié)構(gòu)復(fù)雜的企業(yè)團(tuán)隊(duì)就是常面臨這種問(wèn)題。

而上了PaaS之后，我們用到了PaaS里面的應(yīng)用商店，把一些基礎(chǔ)的應(yīng)用打包成鏡像上架到應(yīng)用商店。后續(xù)使用時(shí)基本上是秒用，需要一個(gè)環(huán)境的話(huà)，基本上一點(diǎn)用商店就能立馬拉起來(lái)。這是一個(gè)上百倍的環(huán)境準(zhǔn)備效率的提升。

持續(xù)集成

另外還有一點(diǎn)值得分享，中國(guó)人壽在做PaaS的過(guò)程中，不只是用了容器技術(shù)，另一個(gè)很重要的是自動(dòng)化技術(shù)。

并不是中國(guó)人壽的所有開(kāi)發(fā)人員都清楚什么是Docker，什么是PaaS。他不太了解也不需要了解，他可能只是關(guān)注一套業(yè)務(wù)代碼的開(kāi)發(fā)。所以我們?cè)趲椭鷳?yīng)用團(tuán)隊(duì)將應(yīng)用遷到PaaS的過(guò)程中，先給應(yīng)用團(tuán)隊(duì)的應(yīng)用進(jìn)行持續(xù)集成。這個(gè)開(kāi)發(fā)團(tuán)隊(duì)只要提交代碼，剩下的由我們通過(guò)持續(xù)集成為他們進(jìn)行代碼編譯、鏡像打包、做PaaS平臺(tái)的托起，整個(gè)過(guò)程是不用項(xiàng)目組參與的，而是通過(guò)持續(xù)集成、通過(guò)自動(dòng)化去完成的。如此一來(lái)，有效降低了他們技術(shù)上的使用門(mén)檻。

同時(shí)，完成了自動(dòng)化的持續(xù)集成這個(gè)過(guò)程之后，也能大量地、快速地提升他們的研發(fā)效率，起碼在集成效率上的提高非常大。拍個(gè)腦袋說(shuō)個(gè)數(shù)，原來(lái)的集成可能需要30分鐘，從代碼編譯、到檢查、到部署；而通過(guò)持續(xù)集成去做的話(huà)，我們最終能在5分鐘之內(nèi)完成整個(gè)流水線(xiàn)的工作，大概是這么一個(gè)提升。

微服務(wù)的拆分或改造經(jīng)驗(yàn)

我們覺(jué)得做微服務(wù)，最簡(jiǎn)單的方法是從頭到尾來(lái)做，在最初新建系統(tǒng)的規(guī)劃階段就按微服務(wù)架構(gòu)去做。我們基于微服務(wù)架構(gòu)新建系統(tǒng)時(shí)，使用的是Spring全家桶，即SpringBoot、SpringCloud這些。

以今年6月我們剛上線(xiàn)的對(duì)外業(yè)務(wù)系統(tǒng)為例，它原先面臨著非常大的運(yùn)維問(wèn)題。為了高可用、非停機(jī)升級(jí)、灰度發(fā)布，我們將這個(gè)上線(xiàn)的微服務(wù)拆成了兩個(gè)獨(dú)立的、相同的棧。最后一共是有70多個(gè)微服務(wù)，運(yùn)行著128個(gè)應(yīng)用容器。如果是用傳統(tǒng)方法、在非云的模式下，我們數(shù)據(jù)中心甚至不會(huì)同意去接這個(gè)項(xiàng)目，因?yàn)樗倪\(yùn)維難度、甚至光上線(xiàn)難度就非常大。但是PaaS云平臺(tái)讓我們得以解決這一難題，我們?cè)谠粕嫌玫搅藨?yīng)用商店、Rancher的應(yīng)用發(fā)布，只用10分鐘就完成了整個(gè)系統(tǒng)的上線(xiàn)和128個(gè)容器的部署。我們的經(jīng)驗(yàn)是，如果條件可行的話(huà)，微服務(wù)架構(gòu)這種的還是從頭新建可能更好一點(diǎn)，碰到的坑可能會(huì)少一點(diǎn)。

另一個(gè)一定要提的建議就是，一定要跟云相結(jié)合。中國(guó)人壽的整個(gè)過(guò)程都是做的持續(xù)集成、持續(xù)交付，都是用的自動(dòng)化技術(shù)去對(duì)接。跟云結(jié)合，這個(gè)技術(shù)是很好的。這是我們這邊的一點(diǎn)體驗(yàn)。

數(shù)據(jù)庫(kù)拆分

中國(guó)人壽沒(méi)有做額外的數(shù)據(jù)庫(kù)拆分，因?yàn)槟壳斑@個(gè)云對(duì)數(shù)據(jù)庫(kù)拆分起不到太大的幫助。若是新建系統(tǒng)，我們進(jìn)行原生設(shè)計(jì)時(shí)就會(huì)考慮好數(shù)據(jù)結(jié)構(gòu)。原有的老系統(tǒng)，目前我們碰到的正在拆的系統(tǒng)都還沒(méi)有從數(shù)據(jù)層面去下手。

我們的Oracle、MySQL都在容器上實(shí)現(xiàn)容器化，都能在云環(huán)境上運(yùn)行。在開(kāi)發(fā)環(huán)境上，如果說(shuō)如果項(xiàng)目組急切需要一個(gè)數(shù)據(jù)庫(kù)，我們會(huì)直接用鏡像在云上給他托起Oracle、MySQL或MangoDB這些，直接給到項(xiàng)目組。生產(chǎn)環(huán)境上，我們沒(méi)有把數(shù)據(jù)庫(kù)運(yùn)行在生產(chǎn)云上。

因?yàn)榫椭袊?guó)人壽的情況來(lái)看，我們的開(kāi)發(fā)測(cè)試云和生產(chǎn)云的定位和目標(biāo)都是不同，因而策略不同。在開(kāi)發(fā)上是為了方便項(xiàng)目組快速去用，所以提供這個(gè)服務(wù)。不過(guò)我們也知道有不少公司會(huì)把所有的數(shù)據(jù)庫(kù)（MySQL）都搬到云上。只能說(shuō)，各公司有各自的情況和需求。中國(guó)人壽拆分?jǐn)?shù)據(jù)庫(kù)的需求不那么強(qiáng)烈，我們根據(jù)自己情況評(píng)估認(rèn)為，將數(shù)據(jù)庫(kù)拆分或者部署在生產(chǎn)云上所花費(fèi)的成本可能得不償失。一切決策都是跟不同公司數(shù)據(jù)量的大小、系統(tǒng)的具體情況有關(guān)的。