摘要:當(dāng)已經(jīng)超過(guò)個(gè)心跳的時(shí)間也就是長(zhǎng)度后服務(wù)器還沒(méi)有收到客戶端的返回信息那么表明這個(gè)客戶端連接失敗。
基礎(chǔ)篇
1、zookeeper是什么
Zookeeper,一種分布式應(yīng)用的協(xié)作服務(wù),是Google的Chubby一個(gè)開(kāi)源的實(shí)現(xiàn),是Hadoop的分布式協(xié)調(diào)服務(wù),它包含一個(gè)簡(jiǎn)單的原語(yǔ)集,應(yīng)用于分布式應(yīng)用的協(xié)作服務(wù),使得分布式應(yīng)用可以基于這些接口實(shí)現(xiàn)諸如同步、配置維護(hù)和分集群或者命名的服務(wù)。
zookeeper是一個(gè)由多個(gè)service組成的集群,一個(gè)leader,多個(gè)follower,每個(gè)server保存一份數(shù)據(jù)部分,全局?jǐn)?shù)據(jù)一致,分布式讀寫(xiě),更新請(qǐng)求轉(zhuǎn)發(fā)由leader實(shí)施.
更新請(qǐng)求順序進(jìn)行,來(lái)自同一個(gè)client的更新請(qǐng)求按其發(fā)送順序依次執(zhí)行,數(shù)據(jù)更新原子性,一次數(shù)據(jù)更新要么成功,要么失敗,全局唯一數(shù)據(jù)試圖,client無(wú)論連接到哪個(gè)server,數(shù)據(jù)試圖是一致的.
2、為什么要用zookeeper
大部分分布式應(yīng)用需要一個(gè)主控、協(xié)調(diào)器或控制器來(lái)管理物理分布的子進(jìn)程(如資源、任務(wù)分配等),目前,大部分應(yīng)用需要開(kāi)發(fā)私有的協(xié)調(diào)程序,缺乏一個(gè)通用的機(jī)制.協(xié)調(diào)程序的反復(fù)編寫(xiě)浪費(fèi),且難以形成通用、伸縮性好的協(xié)調(diào)器,ZooKeeper:提供通用的分布式鎖服務(wù),用以協(xié)調(diào)分布式應(yīng)用
3、zookeeper工作原理
zookeeper的核心是原子廣播,這個(gè)機(jī)制保證了各個(gè)server之間的同步,實(shí)現(xiàn)這個(gè)機(jī)制的協(xié)議叫做Zab協(xié)議.Zab協(xié)議有兩種模式,他們分別是恢復(fù)模式和廣播模式.
(1)當(dāng)服務(wù)啟動(dòng)或者在領(lǐng)導(dǎo)者崩潰后,Zab就進(jìn)入了恢復(fù)模式,當(dāng)領(lǐng)導(dǎo)著被選舉出來(lái),且大多數(shù)server都完成了和leader的狀態(tài)同步后,恢復(fù)模式就結(jié)束了.狀態(tài)同步保證了leader和server具有相同的系統(tǒng)狀態(tài).
(2)一旦leader已經(jīng)和多數(shù)的follower進(jìn)行了狀態(tài)同步后,他就可以開(kāi)始廣播消息了,即進(jìn)入廣播狀態(tài).這時(shí)候當(dāng)一個(gè)server加入zookeeper服務(wù)中,它會(huì)在恢復(fù)模式下啟動(dòng),發(fā)下leader,并和leader進(jìn)行狀態(tài)同步,待到同步結(jié)束,它也參與廣播消息.
說(shuō)明:
廣播模式需要保證proposal被按順序處理,因此zk采用了遞增的事務(wù)id號(hào)(zxid)來(lái)保證.所有的提議(proposal)都在被提出的時(shí)候加上了zxid.實(shí)現(xiàn)中zxid是一個(gè)64為的數(shù)字,它高32位是epoch用來(lái)標(biāo)識(shí)leader關(guān)系是否改變,每次一個(gè)leader被選出來(lái),它都會(huì)有一個(gè)新的epoch.低32位是個(gè)遞增計(jì)數(shù). 當(dāng)leader崩潰或者leader失去大多數(shù)的follower,這時(shí)候zk進(jìn)入恢復(fù)模式,恢復(fù)模式需要重新選舉出一個(gè)新的leader,讓所有的server都恢復(fù)到一個(gè)正確的狀態(tài). zookeeper服務(wù)一致維持在Broadcast狀態(tài),直到leader崩潰了或者leader失去了大部分的followers支持. Broadcast模式極其類似于分布式事務(wù)中的2pc(two-phrase commit 兩階段提交):即leader提起一個(gè)決議,由followers進(jìn)行投票,leader對(duì)投票結(jié)果進(jìn)行計(jì)算決定是否通過(guò)該決議,如果通過(guò)執(zhí)行該決議(事務(wù)),否則什么也不做.
3、Leader選舉
每個(gè)Server啟動(dòng)以后都詢問(wèn)其它的Server它要投票給誰(shuí),對(duì)于其他server的詢問(wèn),server每次根據(jù)自己的狀態(tài)都回復(fù)自己推薦的leader的id和上一次處理事務(wù)的zxid(系統(tǒng)啟動(dòng)時(shí)每個(gè)server都會(huì)推薦自己),收到所有Server回復(fù)以后,就計(jì)算出zxid最大的哪個(gè)Server,并將這個(gè)Server相關(guān)信息設(shè)置成下一次要投票的Server.計(jì)算這過(guò)程中獲得票數(shù)最多的的sever為獲勝者,如果獲勝者的票數(shù)超過(guò)半數(shù),則改server被選為leader.否則,繼續(xù)這個(gè)過(guò)程,直到leader被選舉出來(lái).leader就會(huì)開(kāi)始等待server連接,Follower連接leader,將最大的zxid發(fā)送給leader,Leader根據(jù)follower的zxid確定同步點(diǎn),完成同步后通知follower 已經(jīng)成為uptodate狀態(tài),Follower收到uptodate消息后,又可以重新接受client的請(qǐng)求進(jìn)行服務(wù)了.
4、zookeeper的數(shù)據(jù)模型
層次化的目錄結(jié)構(gòu),命名符合常規(guī)文件系統(tǒng)規(guī)范
每個(gè)節(jié)點(diǎn)在zookeeper中叫做znode,并且其有一個(gè)唯一的路徑標(biāo)識(shí)
節(jié)點(diǎn)Znode可以包含數(shù)據(jù)和子節(jié)點(diǎn),但是EPHEMERAL類型的節(jié)點(diǎn)不能有子節(jié)點(diǎn)
Znode中的數(shù)據(jù)可以有多個(gè)版本,比如某一個(gè)路徑下存有多個(gè)數(shù)據(jù)版本,那么查詢這個(gè)路徑下的數(shù)據(jù)就需要帶上版本
客戶端應(yīng)用可以在節(jié)點(diǎn)上設(shè)置監(jiān)視器,節(jié)點(diǎn)不支持部分讀寫(xiě),而是一次性完整讀寫(xiě)
Zoopkeeper 提供了一套很好的分布式集群管理的機(jī)制,就是它這種基于層次型的目錄樹(shù)的數(shù)據(jù)結(jié)構(gòu),并對(duì)樹(shù)中的節(jié)點(diǎn)進(jìn)行有效管理,從而可以設(shè)計(jì)出多種多樣的分布式的數(shù)據(jù)管理模型
5、Zookeeper的節(jié)點(diǎn)
Znode有兩種類型,短暫的(ephemeral)和持久的(persistent)
Znode的類型在創(chuàng)建時(shí)確定并且之后不能再修改
短暫znode的客戶端會(huì)話結(jié)束時(shí),zookeeper會(huì)將該短暫znode刪除,短暫znode不可以有子節(jié)點(diǎn)
持久znode不依賴于客戶端會(huì)話,只有當(dāng)客戶端明確要?jiǎng)h除該持久znode時(shí)才會(huì)被刪除
Znode有四種形式的目錄節(jié)點(diǎn),PERSISTENT、PERSISTENT_SEQUENTIAL、EPHEMERAL、EPHEMERAL_SEQUENTIAL.
znode 可以被監(jiān)控,包括這個(gè)目錄節(jié)點(diǎn)中存儲(chǔ)的數(shù)據(jù)的修改,子節(jié)點(diǎn)目錄的變化等,一旦變化可以通知設(shè)置監(jiān)控的客戶端,這個(gè)功能是zookeeper對(duì)于應(yīng)用最重要的特性,通過(guò)這個(gè)特性可以實(shí)現(xiàn)的功能包括配置的集中管理,集群管理,分布式鎖等等.
6、Zookeeper的角色
(1)領(lǐng)導(dǎo)者(leader):負(fù)責(zé)進(jìn)行投票的發(fā)起和決議,更新系統(tǒng)狀態(tài)
(2)學(xué)習(xí)者(learner):包括跟隨者(follower)和觀察者(observer).
a、follower用于接受客戶端請(qǐng)求并想客戶端返回結(jié)果,在選主過(guò)程中參與投票
b、Observer可以接受客戶端連接,將寫(xiě)請(qǐng)求轉(zhuǎn)發(fā)給leader,但observer不參加投票過(guò)程,只同步leader的狀態(tài),observer的目的是為了擴(kuò)展系統(tǒng),提高讀取速度
(3)客戶端(client),請(qǐng)求發(fā)起方
Watcher
Watcher 在 ZooKeeper 是一個(gè)核心功能,Watcher 可以監(jiān)控目錄節(jié)點(diǎn)的數(shù)據(jù)變化以及子目錄的變化,一旦這些狀態(tài)發(fā)生變化,服務(wù)器就會(huì)通知所有設(shè)置在這個(gè)目錄節(jié)點(diǎn)上的 Watcher,從而每個(gè)客戶端都很快知道它所關(guān)注的目錄節(jié)點(diǎn)的狀態(tài)發(fā)生變化,而做出相應(yīng)的反應(yīng)
可以設(shè)置觀察的操作:exists,getChildren,getData
可以觸發(fā)觀察的操作:create,delete,setData
znode以某種方式發(fā)生變化時(shí),“觀察”(watch)機(jī)制可以讓客戶端得到通知.
可以針對(duì)ZooKeeper服務(wù)的“操作”來(lái)設(shè)置觀察,該服務(wù)的其他 操作可以觸發(fā)觀察.
比如,客戶端可以對(duì)某個(gè)客戶端調(diào)用exists操作,同時(shí)在它上面設(shè)置一個(gè)觀察,如果此時(shí)這個(gè)znode不存在,則exists返回 false,如果一段時(shí)間之后,這個(gè)znode被其他客戶端創(chuàng)建,則這個(gè)觀察會(huì)被觸發(fā),之前的那個(gè)客戶端就會(huì)得到通知.
7、Zookeeper集群搭建
Zookeeper 不僅可以單機(jī)提供服務(wù),同時(shí)也支持多機(jī)組成集群來(lái)提供服務(wù),實(shí)際上Zookeeper還支持另外一種偽集群的方式,也就是可以在一臺(tái)物理機(jī)上運(yùn)行多個(gè)Zookeeper實(shí)例.
Zookeeper通過(guò)復(fù)制來(lái)實(shí)現(xiàn)高可用性,只要集合體中半數(shù)以上的機(jī)器處于可用狀態(tài),它就能夠保證服務(wù)繼續(xù)。
命令篇連接遠(yuǎn)程Server:zkCli.sh –server
比如連接到本地Zoopker服務(wù): ./zkCli.sh -server localhost:2181
查看節(jié)點(diǎn)數(shù)據(jù):ls
查看某個(gè)服務(wù)Service的提供者
ls 服務(wù)名/providers
查看節(jié)點(diǎn)數(shù)據(jù)并能看到更新次數(shù)等數(shù)據(jù):ls2
cZxid:創(chuàng)建節(jié)點(diǎn)的事務(wù)id
ctime:創(chuàng)建節(jié)點(diǎn)的時(shí)間
mZxid:修改節(jié)點(diǎn)的事務(wù)id
mtime:修改節(jié)點(diǎn)的時(shí)間
pZxid:子節(jié)點(diǎn)列表最后一次修改的事務(wù)id。刪除或添加子節(jié)點(diǎn),不包含修改子節(jié)點(diǎn)的數(shù)據(jù)
cversion:子節(jié)點(diǎn)的版本號(hào),刪除或添加子節(jié)點(diǎn),版本號(hào)會(huì)自增
dataVersion:節(jié)點(diǎn)數(shù)據(jù)版本號(hào),數(shù)據(jù)寫(xiě)入操作,版本號(hào)會(huì)遞增
aclVersion:節(jié)點(diǎn)ACL權(quán)限版本,權(quán)限寫(xiě)入操作,版本號(hào)會(huì)遞增
ephemeralOwner:臨時(shí)節(jié)點(diǎn)創(chuàng)建時(shí)的事務(wù)id,如果節(jié)點(diǎn)是永久節(jié)點(diǎn),則它的值為0
dataLength:節(jié)點(diǎn)數(shù)據(jù)長(zhǎng)度(單位:byte),中文占3個(gè)byte
numChildren:子節(jié)點(diǎn)數(shù)量
創(chuàng)建節(jié)點(diǎn):create
獲取節(jié)點(diǎn),包含數(shù)據(jù)和更新次數(shù)等數(shù)據(jù):get
修改節(jié)點(diǎn):set
刪除節(jié)點(diǎn):delete
1、zoo.cfx文件解析:
假設(shè)如下配置:
#zookeeper-3.4.6-node1的配置 tickTime=2000 initLimit=10 syncLimit=5 clientPort=2181 dataDir=/export/search/zookeeper-cluster/zookeeper-3.4.6-node1/data server.1=localhost:2887:3887 server.2=localhost:2888:3888 server.3=localhost:2889:3889
解析:
tickTime=2000:
tickTime這個(gè)時(shí)間是作為Zookeeper服務(wù)器之間或客戶端與服務(wù)器之間維持心跳的時(shí)間間隔,也就是每個(gè)tickTime時(shí)間就會(huì)發(fā)送一個(gè)心跳;
initLimit=10:
initLimit這個(gè)配置項(xiàng)是用來(lái)配置Zookeeper接受客戶端(這里所說(shuō)的客戶端不是用戶連接Zookeeper服務(wù)器的客戶端,而是Zookeeper服務(wù)器集群中連接到Leader的Follower 服務(wù)器)初始化連接時(shí)最長(zhǎng)能忍受多少個(gè)心跳時(shí)間間隔數(shù)。
當(dāng)已經(jīng)超過(guò)10個(gè)心跳的時(shí)間(也就是tickTime)長(zhǎng)度后 Zookeeper 服務(wù)器還沒(méi)有收到客戶端的返回信息,那么表明這個(gè)客戶端連接失敗。總的時(shí)間長(zhǎng)度就是 10*2000=20 秒;
syncLimit=5:
syncLimit這個(gè)配置項(xiàng)標(biāo)識(shí)Leader與Follower之間發(fā)送消息,請(qǐng)求和應(yīng)答時(shí)間長(zhǎng)度,最長(zhǎng)不能超過(guò)多少個(gè)tickTime的時(shí)間長(zhǎng)度,總的時(shí)間長(zhǎng)度就是5*2000=10秒;
dataDir=/export/search/zookeeper-cluster/zookeeper-3.4.6-node1/data
dataDir顧名思義就是Zookeeper保存數(shù)據(jù)的目錄,默認(rèn)情況下Zookeeper將寫(xiě)數(shù)據(jù)的日志文件也保存在這個(gè)目錄里;
clientPort=2181
clientPort這個(gè)端口就是客戶端連接Zookeeper服務(wù)器的端口,Zookeeper會(huì)監(jiān)聽(tīng)這個(gè)端口接受客戶端的訪問(wèn)請(qǐng)求;
server.1=localhost:2887:3887
server.2=localhost:2888:3888
server.3=localhost:2889:3889
server.A=B:C:D:
A是一個(gè)數(shù)字,表示這個(gè)是第幾號(hào)服務(wù)器,B是這個(gè)服務(wù)器的ip地址
C第一個(gè)端口用來(lái)集群成員的信息交換,表示的是這個(gè)服務(wù)器與集群中的Leader服務(wù)器交換信息的端口
D是在leader掛掉時(shí)專門(mén)用來(lái)進(jìn)行選舉leader所用
參考:https://www.cnblogs.com/denni...
文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/68162.html
摘要:除此之外,它嚴(yán)格的序列訪問(wèn)控制意味著復(fù)雜的控制原語(yǔ)可以應(yīng)用在客戶端上。版本號(hào)對(duì)節(jié)點(diǎn)的每一個(gè)操作都將致使這個(gè)節(jié)點(diǎn)的版本號(hào)增加。事件是一次性的觸發(fā)器,當(dāng)?shù)膶?duì)象狀態(tài)發(fā)生改變時(shí),將會(huì)觸發(fā)此對(duì)象上所對(duì)應(yīng)的事件。節(jié)點(diǎn)事件節(jié)點(diǎn)的建立,刪除,數(shù)據(jù)的修改。 目錄 一、ZooKeeper概述 二、ZooKeeper數(shù)據(jù)模型 三、ZooKeeper服務(wù)中操作 四、Watch觸發(fā)器 五、ZooKeeper應(yīng)用...
摘要:協(xié)議是為分布式協(xié)調(diào)服務(wù)專門(mén)設(shè)計(jì)的一種支持崩潰恢復(fù)的一致性協(xié)議,這個(gè)機(jī)制保證了各個(gè)之間的同步。選主是協(xié)議中最為重要和復(fù)雜的過(guò)程。以實(shí)際效果而言,分區(qū)相當(dāng)于對(duì)通信的時(shí)限要求。參考官方文檔阿里巴巴為什么不用做服務(wù)發(fā)現(xiàn)定理的含義阮一峰 前言 同學(xué)們,在上一章中,我們主要講了Zookeeper兩種啟動(dòng)模式以及具體如何搭建。本章內(nèi)容主要講的是集群相關(guān)的原理內(nèi)容,第一章可以當(dāng)做是Zookeeper原...
摘要:作為面試官,我是如何甄別應(yīng)聘者的包裝程度語(yǔ)言和等其他語(yǔ)言的對(duì)比分析和主從復(fù)制的原理詳解和持久化的原理是什么面試中經(jīng)常被問(wèn)到的持久化與恢復(fù)實(shí)現(xiàn)故障恢復(fù)自動(dòng)化詳解哨兵技術(shù)查漏補(bǔ)缺最易錯(cuò)過(guò)的技術(shù)要點(diǎn)大掃盲意外宕機(jī)不難解決,但你真的懂?dāng)?shù)據(jù)恢復(fù)嗎每秒 作為面試官,我是如何甄別應(yīng)聘者的包裝程度Go語(yǔ)言和Java、python等其他語(yǔ)言的對(duì)比分析 Redis和MySQL Redis:主從復(fù)制的原理詳...
摘要:作為面試官,我是如何甄別應(yīng)聘者的包裝程度語(yǔ)言和等其他語(yǔ)言的對(duì)比分析和主從復(fù)制的原理詳解和持久化的原理是什么面試中經(jīng)常被問(wèn)到的持久化與恢復(fù)實(shí)現(xiàn)故障恢復(fù)自動(dòng)化詳解哨兵技術(shù)查漏補(bǔ)缺最易錯(cuò)過(guò)的技術(shù)要點(diǎn)大掃盲意外宕機(jī)不難解決,但你真的懂?dāng)?shù)據(jù)恢復(fù)嗎每秒 作為面試官,我是如何甄別應(yīng)聘者的包裝程度Go語(yǔ)言和Java、python等其他語(yǔ)言的對(duì)比分析 Redis和MySQL Redis:主從復(fù)制的原理詳...
閱讀 1151·2023-04-26 03:02
閱讀 1191·2023-04-25 19:18
閱讀 2595·2021-11-23 09:51
閱讀 2577·2021-11-11 16:55
閱讀 2631·2021-10-21 09:39
閱讀 1710·2021-10-09 09:59
閱讀 2005·2021-09-26 09:55
閱讀 3532·2021-09-26 09:55