摘要:會(huì)實(shí)時(shí)從上讀取信息,進(jìn)行重演,保持與的數(shù)據(jù)同步。如果掛掉了,會(huì)監(jiān)控到,向集群發(fā)送心跳報(bào)告時(shí)會(huì)將這一消息報(bào)告上去,集群會(huì)進(jìn)行選舉,被選舉到的所在節(jié)點(diǎn)的進(jìn)程收到通知,這個(gè)會(huì)切換的狀態(tài)為。
讀寫:客戶端通過(guò)命名空間發(fā)請(qǐng)求,可以無(wú)感知的找到active NN,active NN所做操作會(huì)保存在editlog文件中,并向JournalNode節(jié)點(diǎn)寫入editlog。DN向NN發(fā)送心跳報(bào)告的時(shí)候,NN將editlog上的數(shù)據(jù)操作發(fā)送給DN實(shí)現(xiàn)。
HA:standby NN會(huì)實(shí)時(shí)從JN上讀取editlog信息,進(jìn)行重演,保持與active NN的數(shù)據(jù)同步。如果active NN掛掉了,ZKFC會(huì)監(jiān)控到,向zk集群發(fā)送心跳報(bào)告時(shí)會(huì)將這一消息報(bào)告上去,zk集群會(huì)進(jìn)行選舉,被選舉到的standby NN所在節(jié)點(diǎn)的ZKFC進(jìn)程收到通知,這個(gè)ZKFC會(huì)切換NN的狀態(tài)為active。
配置:與zk同理,JN需要配置2n+1個(gè)。
HDFS節(jié)點(diǎn)在20個(gè),JN配置5個(gè);
HDFS節(jié)點(diǎn)20~100個(gè),JN配置7/9/11個(gè);
HDFS節(jié)點(diǎn)100以上,JN配置11個(gè)即可。
JN配置數(shù)量應(yīng)根據(jù)寫請(qǐng)求的頻繁程度而定,但并非越多越好,太多會(huì)因?yàn)榘霐?shù)通過(guò)機(jī)制而導(dǎo)致性能下降。
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/74044.html
摘要:?jiǎn)?dòng)時(shí)會(huì)向的路徑下寫入文件,寫入成功的則為,否則為。根據(jù)上下文以及從收集到的狀態(tài)信息分配資源并調(diào)度,啟動(dòng)一個(gè)用來(lái)運(yùn)行。負(fù)責(zé)啟動(dòng),監(jiān)控所在節(jié)點(diǎn)的資源使用情況,并通過(guò)心跳機(jī)制報(bào)告給。 showImg(https://segmentfault.com/img/bVbqOVb?w=1280&h=720); HA:RM啟動(dòng)時(shí)會(huì)向zk的/mrstore路徑下寫入lock文件,寫入成功的則為acti...
摘要:近幾年,深度學(xué)習(xí)高速發(fā)展,出現(xiàn)了大量的新模型與架構(gòu),以至于我們無(wú)法理清網(wǎng)絡(luò)類型之間的關(guān)系。是由深度學(xué)習(xí)先驅(qū)等人提出的新一代神經(jīng)網(wǎng)絡(luò)形式,旨在修正反向傳播機(jī)制。當(dāng)多個(gè)預(yù)測(cè)一致時(shí)本論文使用動(dòng)態(tài)路由使預(yù)測(cè)一致,更高級(jí)別的將變得活躍。 近幾年,深度學(xué)習(xí)高速發(fā)展,出現(xiàn)了大量的新模型與架構(gòu),以至于我們無(wú)法理清網(wǎng)絡(luò)類型之間的關(guān)系。在這篇文章中,香港科技大學(xué)(HKUST)助理教授金成勳總結(jié)了深度網(wǎng)絡(luò)類型之間...
閱讀 2900·2021-11-23 09:51
閱讀 3419·2021-11-22 09:34
閱讀 3319·2021-10-27 14:14
閱讀 1519·2019-08-30 15:55
閱讀 3352·2019-08-30 15:54
閱讀 1080·2019-08-30 15:52
閱讀 1897·2019-08-30 12:46
閱讀 2856·2019-08-29 16:11