使用 Docker 快速部署 Elasticsearch 集群

tracymac7 發(fā)布于2019-06-28 17:10 / 2093人閱讀

摘要：本文將使用容器使用編排快速部署集群，可用于開發(fā)環(huán)境單機(jī)多實(shí)例或生產(chǎn)環(huán)境部署。在集群每一個(gè)節(jié)點(diǎn)上執(zhí)行安裝使用安裝重啟服務(wù)驗(yàn)證分詞默認(rèn)使用分詞器只能處理英文，中文會(huì)被拆分成一個(gè)個(gè)的漢字，沒有語(yǔ)義。

本文將使用Docker容器（使用docker-compose編排）快速部署Elasticsearch 集群，可用于開發(fā)環(huán)境（單機(jī)多實(shí)例）或生產(chǎn)環(huán)境部署。

注意，6.x版本已經(jīng)不能通過 -Epath.config 參數(shù)去指定配置文件的加載位置，文檔說明：

For the archive distributions, the config directory location defaults to $ES_HOME/config. The location of the >config directory can be changed via the ES_PATH_CONF environment variable as follows:
ES_PATH_CONF=/path/to/my/config ./bin/elasticsearch
Alternatively, you can export the ES_PATH_CONF environment variable via the command line or via your shell profile.

即交給環(huán)境變量 ES_PATH_CONF 來設(shè)定了（官方文檔），單機(jī)部署多個(gè)實(shí)例且不使用容器的同學(xué)多多注意。

準(zhǔn)備工作 安裝 docker & docker-compose

這里推進(jìn)使用 daocloud 做個(gè)加速安裝：

#docker
curl -sSL https://get.daocloud.io/docker | sh

#docker-compose
curl -L 
https://get.daocloud.io/docker/compose/releases/download/1.23.2/docker-compose-`uname -s`-`uname -m` 
> /usr/local/bin/docker-compose

chmod +x /usr/local/bin/docker-compose

#查看安裝結(jié)果
docker-compose -v

數(shù)據(jù)目錄

#創(chuàng)建數(shù)據(jù)/日志目錄 這里我們部署3個(gè)節(jié)點(diǎn)
mkdir /opt/elasticsearch/data/{node0,nod1,node2} -p
mkdir /opt/elasticsearch/logs/{node0,nod1,node2} -p
cd /opt/elasticsearch
#權(quán)限我也很懵逼啦 給了 privileged 也不行 索性0777好了
chmod 0777 data/* -R && chmod 0777 logs/* -R

#防止JVM報(bào)錯(cuò)
echo vm.max_map_count=262144 >> /etc/sysctl.conf
sysctl -p

docker-compse 編排服務(wù) 創(chuàng)建編排文件

vim docker-compose.yml

參數(shù)說明

- cluster.name=elasticsearch-cluster
集群名稱

- node.name=node0
- node.master=true
- node.data=true
節(jié)點(diǎn)名稱、是否可作為主節(jié)點(diǎn)、是否存儲(chǔ)數(shù)據(jù)

- bootstrap.memory_lock=true
鎖定進(jìn)程的物理內(nèi)存地址避免交換（swapped）來提高性能

- http.cors.enabled=true
- http.cors.allow-origin=*
開啟cors以便使用Head插件

- "ES_JAVA_OPTS=-Xms512m -Xmx512m"
JVM內(nèi)存大小配置

- "discovery.zen.ping.unicast.hosts=elasticsearch_n0,elasticsearch_n1,elasticsearch_n2"
- "discovery.zen.minimum_master_nodes=2"
由于5.2.1后的版本是不支持多播的，所以需要手動(dòng)指定集群各節(jié)點(diǎn)的tcp數(shù)據(jù)交互地址，用于集群的節(jié)點(diǎn)發(fā)現(xiàn)和failover，默認(rèn)缺省9300端口，如設(shè)定了其它端口需另行指定，這里我們直接借助容器通信，也可以將各節(jié)點(diǎn)的9300映射至宿主機(jī)，通過網(wǎng)絡(luò)端口通信。
設(shè)定failover選取的quorum = nodes/2 + 1

當(dāng)然，也可以掛載自己的配置文件，ES鏡像的配置文件是/usr/share/elasticsearch/config/elasticsearch.yml，掛載如下:

volumes:
  - path/to/local/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml:ro

docker-compose.yml

version: "3"
services:
  elasticsearch_n0:
    image: elasticsearch:6.6.2
    container_name: elasticsearch_n0
    privileged: true
    environment:
      - cluster.name=elasticsearch-cluster
      - node.name=node0
      - node.master=true
      - node.data=true
      - bootstrap.memory_lock=true
      - http.cors.enabled=true
      - http.cors.allow-origin=*
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      - "discovery.zen.ping.unicast.hosts=elasticsearch_n0,elasticsearch_n1,elasticsearch_n2"
      - "discovery.zen.minimum_master_nodes=2"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - ./data/node0:/usr/share/elasticsearch/data
      - ./logs/node0:/usr/share/elasticsearch/logs
    ports:
      - 9200:9200
  elasticsearch_n1:
    image: elasticsearch:6.6.2
    container_name: elasticsearch_n1
    privileged: true
    environment:
      - cluster.name=elasticsearch-cluster
      - node.name=node1
      - node.master=true
      - node.data=true
      - bootstrap.memory_lock=true
      - http.cors.enabled=true
      - http.cors.allow-origin=*
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      - "discovery.zen.ping.unicast.hosts=elasticsearch_n0,elasticsearch_n1,elasticsearch_n2"
      - "discovery.zen.minimum_master_nodes=2"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - ./data/node1:/usr/share/elasticsearch/data
      - ./logs/node1:/usr/share/elasticsearch/logs
    ports:
      - 9201:9200
  elasticsearch_n2:
    image: elasticsearch:6.6.2
    container_name: elasticsearch_n2
    privileged: true
    environment:
      - cluster.name=elasticsearch-cluster
      - node.name=node2
      - node.master=true
      - node.data=true
      - bootstrap.memory_lock=true
      - http.cors.enabled=true
      - http.cors.allow-origin=*
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      - "discovery.zen.ping.unicast.hosts=elasticsearch_n0,elasticsearch_n1,elasticsearch_n2"
      - "discovery.zen.minimum_master_nodes=2"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - ./data/node2:/usr/share/elasticsearch/data
      - ./logs/node2:/usr/share/elasticsearch/logs
    ports:
      - 9202:9200

這里我們分別為node0/node1/node2開放宿主機(jī)的9200/9201/9202作為http服務(wù)端口，各實(shí)例的tcp數(shù)據(jù)傳輸用默認(rèn)的9300通過容器管理通信。

如果需要多機(jī)部署，則將ES的transport.tcp.port: 9300端口映射至宿主機(jī)xxxx端口，discovery.zen.ping.unicast.hosts填寫各主機(jī)代理的地址即可：

#比如其中一臺(tái)宿主機(jī)為192.168.1.100
    ...
    - "discovery.zen.ping.unicast.hosts=192.168.1.100:9300,192.168.1.101:9300,192.168.1.102:9300"
    ...
ports:
  ...
  - 9300:9300

創(chuàng)建并啟動(dòng)服務(wù)

[root@localhost elasticsearch]# docker-compose up -d
[root@localhost elasticsearch]# docker-compose ps
      Name                    Command               State                Ports              
--------------------------------------------------------------------------------------------
elasticsearch_n0   /usr/local/bin/docker-entr ...   Up      0.0.0.0:9200->9200/tcp, 9300/tcp
elasticsearch_n1   /usr/local/bin/docker-entr ...   Up      0.0.0.0:9201->9200/tcp, 9300/tcp
elasticsearch_n2   /usr/local/bin/docker-entr ...   Up      0.0.0.0:9202->9200/tcp, 9300/tcp

#啟動(dòng)失敗查看錯(cuò)誤
[root@localhost elasticsearch]# docker-compose logs
#最多是一些訪問權(quán)限/JVM vm.max_map_count 的設(shè)置問題

查看集群狀態(tài)

192.168.20.6 是我的服務(wù)器地址

訪問http://192.168.20.6:9200/_cat/nodes?v即可查看集群狀態(tài)：

ip         heap.percent ram.percent cpu load_1m load_5m load_15m node.role master name
172.25.0.3           36          98  79    3.43    0.88     0.54 mdi       *      node0
172.25.0.2           48          98  79    3.43    0.88     0.54 mdi       -      node2
172.25.0.4           42          98  51    3.43    0.88     0.54 mdi       -      node1

驗(yàn)證 Failover 通過集群接口查看狀態(tài)

模擬主節(jié)點(diǎn)下線，集群開始選舉新的主節(jié)點(diǎn)，并對(duì)數(shù)據(jù)進(jìn)行遷移，重新分片。

[root@localhost elasticsearch]# docker-compose stop elasticsearch_n0
Stopping elasticsearch_n0 ... done

集群狀態(tài)(注意換個(gè)http端口原主節(jié)點(diǎn)下線了)，down掉的節(jié)點(diǎn)還在集群中，等待一段時(shí)間仍未恢復(fù)后就會(huì)被剔出

ip         heap.percent ram.percent cpu load_1m load_5m load_15m node.role master name
172.25.0.2           57          84   5    0.46    0.65     0.50 mdi       -      node2
172.25.0.4           49          84   5    0.46    0.65     0.50 mdi       *      node1
172.25.0.3                                                       mdi       -      node0

等待一段時(shí)間

ip         heap.percent ram.percent cpu load_1m load_5m load_15m node.role master name
172.25.0.2           44          84   1    0.10    0.33     0.40 mdi       -      node2
172.25.0.4           34          84   1    0.10    0.33     0.40 mdi       *      node1

恢復(fù)節(jié)點(diǎn) node0

[root@localhost elasticsearch]# docker-compose start elasticsearch_n0
Starting elasticsearch_n0 ... done

等待一段時(shí)間

ip         heap.percent ram.percent cpu load_1m load_5m load_15m node.role master name
172.25.0.2           52          98  25    0.67    0.43     0.43 mdi       -      node2
172.25.0.4           43          98  25    0.67    0.43     0.43 mdi       *      node1
172.25.0.3           40          98  46    0.67    0.43     0.43 mdi       -      node0

配合 Head 插件觀察

git clone git://github.com/mobz/elasticsearch-head.git
cd elasticsearch-head
npm install
npm run start

集群狀態(tài)圖示更容易看出數(shù)據(jù)自動(dòng)遷移的過程

1、集群正常數(shù)據(jù)安全分布在3個(gè)節(jié)點(diǎn)上

2、下線 node1 主節(jié)點(diǎn) 集群開始遷移數(shù)據(jù)

遷移中

遷移完成

3、恢復(fù) node1 節(jié)點(diǎn)

安裝IK分詞器

analysis-ik：https://github.com/medcl/elas... 注意對(duì)應(yīng)版本，這里我們部署的ES為 6.6.2。

在集群每一個(gè)節(jié)點(diǎn)上執(zhí)行安裝

docker exec -it elasticsearch_n0 bash
# 使用 elasticsearch-plugin 安裝
elasticsearch-plugin install 
https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v6.6.2/elasticsearch-analysis-ik-6.6.2.zip

重啟服務(wù)

docker-compose restart

驗(yàn)證分詞

默認(rèn)使用standard分詞器只能處理英文，中文會(huì)被拆分成一個(gè)個(gè)的漢字，沒有語(yǔ)義。

GET /_analyze
{
    "text": "我愛祖國(guó)"
}
# reponse
{
    "tokens": [
        {
            "token": "我",
            "start_offset": 0,
            "end_offset": 1,
            "type": "",
            "position": 0
        },
        {
            "token": "愛",
            "start_offset": 1,
            "end_offset": 2,
            "type": "",
            "position": 1
        },
        {
            "token": "祖",
            "start_offset": 2,
            "end_offset": 3,
            "type": "",
            "position": 2
        },
        {
            "token": "國(guó)",
            "start_offset": 3,
            "end_offset": 4,
            "type": "",
            "position": 3
        }
    ]
}

使用ik分詞器

GET /_analyze
{
    "analyzer": "ik_smart",
    "text": "我愛祖國(guó)"
}
# reponse
{
    "tokens": [
        {
            "token": "我",
            "start_offset": 0,
            "end_offset": 1,
            "type": "CN_CHAR",
            "position": 0
        },
        {
            "token": "愛祖國(guó)",
            "start_offset": 1,
            "end_offset": 4,
            "type": "CN_WORD",
            "position": 1
        }
    ]
}

分詞模式有 ik_smart/ ik_max_word兩種方式，可自行根據(jù)業(yè)務(wù)需求選擇。

設(shè)定默認(rèn)分詞器

如果我們的業(yè)務(wù)中很多字段都是中文，那在字段定義是都要去指定analyzer是個(gè)很繁瑣的工作，我們可以設(shè)定默認(rèn)的分詞器為ik，這樣中英文都能做分詞處理了。

PUT /index
{
    "settings" : {
        "index" : {
            "analysis.analyzer.default.type": "ik_smart"
        }
    }
}

注意：5.x版本后已無(wú)法在 elasticsearch.yaml中設(shè)定分詞器配置，只能通過 restApi設(shè)定:

*************************************************************************************
Found index level settings on node level configuration.

Since elasticsearch 5.x index level settings can NOT be set on the nodes 
configuration like the elasticsearch.yaml, in system properties or command line 
arguments.In order to upgrade all indices the settings must be updated via the 
/${index}/_settings API. Unless all settings are dynamic all indices must be closed 
in order to apply the upgradeIndices created in the future should use index templates 
to set default values. 

Please ensure all required values are updated on all indices by executing: 

curl -XPUT "http://localhost:9200/_all/_settings?preserve_existing=true" -d "{
  "index.analysis.analyzer.default.type" : "ik_smart"
}"
*************************************************************************************

index.analysis.analyzer.default.type: ik_smart #默認(rèn)索引/檢索分詞器
index.analysis.analyzer.default_index.type: ik_smart #默認(rèn)索引分詞器
index.analysis.analyzer.default_search.type: ik_smart #默認(rèn)檢索分詞器

問題小記

elasticsearch watermark
部署完后創(chuàng)建索引發(fā)現(xiàn)有些分片處于 Unsigned 狀態(tài)，是由于 elasticsearch watermark：low,high,flood_stage的限定造成的，默認(rèn)硬盤使用率高于85%就會(huì)告警，開發(fā)嘛，手動(dòng)關(guān)掉好了，數(shù)據(jù)會(huì)分片到各節(jié)點(diǎn)，生產(chǎn)自行決斷。

curl -X PUT http://192.168.20.6:9201/_cluster/settings 
-H "Content-type":"application/json" 
-d "{"transient":{"cluster.routing.allocation.disk.threshold_enabled": false}}"

完

GPU云服務(wù)器云服務(wù)器部署docker容器集群基于docker快速部署微服務(wù) docker集群 docker快速入門

文章版權(quán)歸作者所有，未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請(qǐng)注明本文地址：http://systransis.cn/yun/27756.html

發(fā)表評(píng)論

登陸后可評(píng)論

0條評(píng)論

tracymac7

男|高級(jí)講師

我要關(guān)注我要私信

TA的文章

深入理解取整、取余與取模問題

閱讀 3955·2021-11-17 09:33
程序員的自我修養(yǎng) 第四章實(shí)現(xiàn)C語(yǔ)言運(yùn)行庫(kù)

閱讀 3296·2021-10-08 10:05
如何使用云主機(jī)-云主機(jī)怎么使用？

閱讀 3124·2021-09-22 15:36
Postman接口自動(dòng)化測(cè)試之——批量執(zhí)行（集合操作）

閱讀 1151·2021-09-06 15:02
十幾行代碼教你實(shí)現(xiàn)一個(gè)最簡(jiǎn)版的promise

閱讀 2780·2019-08-29 12:45
Javascript運(yùn)行機(jī)制

閱讀 1599·2019-08-26 13:40
ES6常用知識(shí)學(xué)習(xí)札記

閱讀 3409·2019-08-26 13:37
KOA2框架原理解析和實(shí)現(xiàn)

閱讀 431·2019-08-26 13:37

成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

上云采購(gòu)季！| 2核2G4M爆款云服務(wù)器低至59元/年，更有多臺(tái)、長(zhǎng)期優(yōu)惠，快來選購(gòu)！

使用 Docker 快速部署 Elasticsearch 集群

相關(guān)文章

[實(shí)戰(zhàn)] 用數(shù)人云，部署彈性 ELK 集群就五步

**使用 Docker 部署和遷移多節(jié)點(diǎn)的 ElasticSearch-Logstash-Kibana**

發(fā)表評(píng)論

0條評(píng)論

tracymac7

男|高級(jí)講師

TA的文章

深入理解取整、取余與取模問題

程序員的自我修養(yǎng) 第四章實(shí)現(xiàn)C語(yǔ)言運(yùn)行庫(kù)

如何使用云主機(jī)-云主機(jī)怎么使用？

Postman接口自動(dòng)化測(cè)試之——批量執(zhí)行（集合操作）

十幾行代碼教你實(shí)現(xiàn)一個(gè)最簡(jiǎn)版的promise

Javascript運(yùn)行機(jī)制

ES6常用知識(shí)學(xué)習(xí)札記

KOA2框架原理解析和實(shí)現(xiàn)

最新活動(dòng)

資訊專欄INFORMATION COLUMN

上云采購(gòu)季！| 2核2G4M爆款云服務(wù)器低至59元/年，更有多臺(tái)、長(zhǎng)期優(yōu)惠，快來選購(gòu)！

使用 Docker 快速部署 Elasticsearch 集群

相關(guān)文章

發(fā)表評(píng)論

0條評(píng)論

男|高級(jí)講師

TA的文章

最新活動(dòng)

上云采購(gòu)季！| 2核2G4M爆款云服務(wù)器低至59元/年，更有多臺(tái)、長(zhǎng)期優(yōu)惠，快來選購(gòu)！