監(jiān)控設(shè)備達(dá)到4000+節(jié)點(diǎn)，其中網(wǎng)絡(luò)設(shè)備400+ (監(jiān)控項(xiàng)數(shù)約80萬，采集頻率1分鐘)，日數(shù)據(jù)量200G 左右。ES為普通 6節(jié)點(diǎn)普通集群，未做冷熱分類，讀寫壓力巨大，導(dǎo)致數(shù)據(jù)寫入緩慢、查詢數(shù)據(jù)返回超時(shí)。
1.3 計(jì)劃采取措施
- 常規(guī)集群模式變更為冷（6個(gè)月歷史數(shù)據(jù)）熱（1個(gè)月數(shù)據(jù)）集群；
- 熱節(jié)點(diǎn)采用固態(tài)硬盤替換機(jī)械硬盤，提升讀寫性能。
2.1 預(yù)備硬件基本信息
生產(chǎn)環(huán)境預(yù)備的是：
- 3主節(jié)點(diǎn)：內(nèi)存64G，8核，5T的機(jī)械硬盤；
- 3熱數(shù)據(jù)節(jié)點(diǎn)：內(nèi)存64G，16核，5T的固態(tài)硬盤；
- 3冷數(shù)據(jù)節(jié)點(diǎn)：內(nèi)存64G，8核，50T的機(jī)械硬盤。
2.2 現(xiàn)狀分析
1）主節(jié)點(diǎn)磁盤資源使用不完
因?yàn)閮H主節(jié)點(diǎn)非數(shù)據(jù)節(jié)點(diǎn)不存儲(chǔ)數(shù)據(jù)，因此主節(jié)點(diǎn)不需要多帶帶配置5T的硬盤。
2）主機(jī)數(shù)較多
因?yàn)橹鳈C(jī)內(nèi)存僅為64g內(nèi)存，因此單個(gè)主機(jī)僅能部署1個(gè)數(shù)據(jù)節(jié)點(diǎn)，節(jié)點(diǎn)間的通信是主機(jī)間通信，相比主機(jī)內(nèi)節(jié)點(diǎn)間通信會(huì)增加通信延時(shí)，節(jié)點(diǎn)數(shù)越多要求的主機(jī)數(shù)越多，不僅增加節(jié)點(diǎn)間通信延時(shí)，同時(shí)擴(kuò)展性很差，因此建議采用較大內(nèi)存主機(jī)，主機(jī)內(nèi)部署多個(gè)節(jié)點(diǎn)。
2.3 規(guī)劃邏輯
1）主節(jié)點(diǎn)和數(shù)據(jù)節(jié)點(diǎn)共用主機(jī)
主節(jié)點(diǎn)和數(shù)據(jù)節(jié)點(diǎn)在同一個(gè)主機(jī)上能減少主節(jié)點(diǎn)與數(shù)據(jù)節(jié)點(diǎn)間的延時(shí)。
2）規(guī)劃數(shù)據(jù)量及所需承載節(jié)點(diǎn)數(shù)
- 熱設(shè)備存儲(chǔ)30天的數(shù)據(jù)，冷設(shè)備存儲(chǔ)6個(gè)月的數(shù)據(jù)，生產(chǎn)環(huán)境目前每天產(chǎn)生的數(shù)據(jù)大概在200G左右，周期為30天之前的數(shù)據(jù)遷移至冷節(jié)點(diǎn)。
- 總熱數(shù)據(jù)量=200G*30 約6t數(shù)據(jù)，按單個(gè)64g內(nèi)存數(shù)據(jù)節(jié)點(diǎn)規(guī)劃可以承載1.85t數(shù)據(jù)（內(nèi)存存儲(chǔ)比為30），至少需4個(gè)熱數(shù)據(jù)節(jié)點(diǎn)。
- 總冷數(shù)據(jù)量=200G*6*30 約36t數(shù)據(jù)，按單個(gè)64g內(nèi)存數(shù)據(jù)節(jié)點(diǎn)規(guī)劃可以承載32t數(shù)據(jù)（內(nèi)存存儲(chǔ)比為500），至少需要2個(gè)冷數(shù)據(jù)節(jié)點(diǎn)。
2.4 規(guī)劃優(yōu)化方案
1）主節(jié)點(diǎn)和熱數(shù)據(jù)節(jié)點(diǎn)按256g機(jī)器來規(guī)劃，256g機(jī)器最多可以部署4個(gè)節(jié)點(diǎn)，其中一個(gè)節(jié)點(diǎn)當(dāng)做主節(jié)點(diǎn)，其它部署為數(shù)據(jù)節(jié)點(diǎn)，因此需要2臺(tái)256g作為主節(jié)點(diǎn)和熱數(shù)據(jù)節(jié)點(diǎn)共用的主機(jī)，考慮單主機(jī)故障容災(zāi)，建議使用3臺(tái)256g的機(jī)器作為主節(jié)點(diǎn)和熱數(shù)據(jù)節(jié)點(diǎn)共用的主機(jī)。相比之前規(guī)劃減少6臺(tái)主機(jī)。2）冷數(shù)據(jù)節(jié)點(diǎn)目前3臺(tái)64g內(nèi)存的主機(jī)作為冷數(shù)據(jù)節(jié)點(diǎn)已達(dá)到上述至少2個(gè)冷數(shù)據(jù)節(jié)點(diǎn)的要求，因此可以暫不更改，如果資源足夠，也可以采用2臺(tái)128/256g內(nèi)存的機(jī)器，每個(gè)主機(jī)上部署2個(gè)冷數(shù)據(jù)節(jié)點(diǎn)，共4個(gè)冷數(shù)據(jù)節(jié)點(diǎn)。結(jié)合規(guī)劃邏輯和實(shí)際情況，目前的規(guī)劃方案如下，后續(xù)可根據(jù)實(shí)際使用情況進(jìn)行調(diào)整。3）現(xiàn)場(chǎng)生產(chǎn)實(shí)際情況目前有3臺(tái)512G內(nèi)存、48核、39T機(jī)械硬盤、4塊2.9T固態(tài)硬盤的物理機(jī)(若不劃分虛擬機(jī)，則4塊固態(tài)硬盤可以疊加)，因此方案改為：物理機(jī)不劃分虛擬機(jī)，一臺(tái)物理機(jī)上部署1個(gè)主節(jié)點(diǎn)（不占用磁盤）、2個(gè)熱數(shù)據(jù)節(jié)點(diǎn)（使用固態(tài)硬盤）、1個(gè)冷數(shù)據(jù)節(jié)點(diǎn)（使用機(jī)械硬盤）。
2.5 配置文件
1）生成證書，在node0執(zhí)行一次即可(xpack開啟)
cd elasticsearch
export JAVA_HOME=/home/shsnc/snc_product/elasticsearch/jdk ##修改JDK的環(huán)境變量
./bin/elasticsearch-certutil ca ##一直回車即可
./bin/elasticsearch-certutil cert --ca elastic-stack-ca.p12 ##一直回車即可
mv elastic-certificates.p12 ./config/ ##將證書文件放置到node0指定路徑
mv elastic-stack-ca.p12 ./config/ ##將證書文件放置到node0指定路徑
scp elastic-certificates.p12 elastic-stack-ca.p12 192.168.XXX.178:/home/shsnc/snc_product/elasticsearch/config/ ##將證書文件放置到node1指定路徑
scp elastic-certificates.p12 elastic-stack-ca.p12 192.168.XXX.179:/home/shsnc/snc_product/elasticsearch/config/ ##將證書文件放置到node2指定路徑
./bin/x-pack-env ##執(zhí)行環(huán)境變量
./bin/x-pack-security-env ##執(zhí)行環(huán)境變量
./bin/elasticsearch-setup-passwords interactive ##手動(dòng)配置每個(gè)用戶密碼
export JAVA_HOME=/home/shsnc/snc_product/jdk ##還原JDK的環(huán)境變量
2）主節(jié)點(diǎn)配置
cluster.name: shsnc
node.name: node0
network.host: 192.168.XXX.177
http.port: 9200
transport.tcp.port: 9300
node.master: true
node.data: false
node.ingest: true
bootstrap.memory_lock: true
cluster.routing.allocation.same_shard.host: true
xpack.license.self_generated.type: basic
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: /home/shsnc/snc_product/elasticsearch/config/elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: /home/shsnc/snc_product/elasticsearch/config/elastic-certificates.p12
http.cors.enabled: true
http.cors.allow-origin: "*"
bootstrap.system_call_filter: false
node.attr.box_type: hot
discovery.zen.ping.unicast.hosts: ["192.168.XXX.177:9300","192.168.XXX.178:9300","192.168.XXX.179:9300"
3）熱數(shù)據(jù)節(jié)點(diǎn)配置
文章版權(quán)歸作者所有，未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請(qǐng)注明本文地址：http://systransis.cn/yun/129089.html
