成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

淺談某運(yùn)維平臺ES優(yōu)化之路

IT那活兒 / 3371人閱讀
淺談某運(yùn)維平臺ES優(yōu)化之路
點(diǎn)擊上方“IT那活兒”公眾號，關(guān)注后了解更多內(nèi)容，不管IT什么活兒，干就完了?。?！

  
近期的某一天凌晨三點(diǎn)我收到一條ES異常告警，登錄環(huán)境發(fā)現(xiàn)ES節(jié)點(diǎn)數(shù)在正常和異常間反復(fù)橫跳，查看日志發(fā)現(xiàn)數(shù)據(jù)節(jié)點(diǎn)與master節(jié)點(diǎn)通信異常，出現(xiàn)數(shù)據(jù)節(jié)點(diǎn)頻繁上下線的情況，ES集群壓力山大，處理恢復(fù)后續(xù)又多次出現(xiàn)了該問題，ES優(yōu)化刻不容緩，以下我就此分享下ES的優(yōu)化方案。





優(yōu)化方案



1. 索引分片數(shù)優(yōu)化

首先我們先看一下ES集群的整體情況，ES共24個(gè)節(jié)點(diǎn)，其中6個(gè)master節(jié)點(diǎn)，18個(gè)data節(jié)點(diǎn)，數(shù)據(jù)量11.9TB，但是索引數(shù)達(dá)到了12817，分片數(shù)量達(dá)到了53617，了解ES的同學(xué)肯定知道，這樣的分片數(shù)肯定是遠(yuǎn)超了官方建議的。
我們先看看為什么會有這么多索引和分片數(shù)，索引設(shè)置是否合理。
以索引domp_10000_zhuji-messages為例，可見索引分片數(shù)為1，副本數(shù)為1，數(shù)據(jù)量最大的不過10M，一般來說日志類的索引一個(gè)分片可以承載30G左右的數(shù)據(jù)，可見domp_10000_zhuji-messages這樣數(shù)據(jù)量的索引完全沒有必要做日索引。
與應(yīng)用溝通得知索引domp_10000_zhuji-messages保留周期為90天，意味著domp_10000_zhuji-messages索引就能占180個(gè)分片，如果我們將其改造為月索引，單個(gè)索引數(shù)據(jù)量預(yù)估在300M左右，一個(gè)分片也是完全夠用，那么此時(shí)在保留周期內(nèi)我們只需要6個(gè)分片就可以滿足需求，分片數(shù)量直接減少了30倍。
應(yīng)用到整個(gè)集群，索引數(shù)和分片數(shù)量將大幅度的減少，從而可減輕ES集群不小的壓力。
2. 減少監(jiān)控采集頻率
查看日志會發(fā)現(xiàn)ES監(jiān)控索引數(shù)據(jù)寫入被拒絕，監(jiān)控這塊的寫入比較大。
查看監(jiān)控索引大小，居然能達(dá)到40G以上，這對ES的壓力可想而知還是比較大的。
ES默認(rèn)的采集頻率為10S，我們將調(diào)整采集頻率調(diào)整為60S，減少監(jiān)控對ES產(chǎn)生的壓力。
curl  -u elastic:elastic -H Content-Type: application/json -XPUT 
http://XXX.XXX.XXX.101:9206/_cluster/settings  -d {"persistent": {"xpack.monitoring.collection.interval":"60s"}}
ES在7.0后需要在kibana.yml配置文件中加入xpack.monitoring.min_interval_seconds參數(shù)，需與ES集群配置的采集頻率相同，加了之后可別忘了重啟kibana。
必要的話也可以放棄對索引的監(jiān)控，只收集集群元數(shù)據(jù)，調(diào)整參數(shù)xpack.monitoring.collection.indices":".*"，指定需要監(jiān)控的索引，默認(rèn)是監(jiān)控所有索引。





查詢優(yōu)化



ES集群壓力如此之大，當(dāng)時(shí)在跑什么查詢？
我們可以通過查看慢查詢?nèi)罩荆榭串?dāng)時(shí)的查詢情況。
/*
慢查詢?nèi)罩咎砑臃绞?時(shí)間級別可根據(jù)實(shí)際情況而定。
PUT _all/_settings {
"index.indexing.slowlog.threshold.index.warn": "10s",
"index.indexing.slowlog.threshold.index.info": "5s",
"index.indexing.slowlog.threshold.index.debug": "2s",
"index.indexing.slowlog.threshold.index.trace": "500ms",
"index.indexing.slowlog.level": "info",
"index.indexing.slowlog.source": "true"
}
**/
通過慢日志，我們可以發(fā)現(xiàn)當(dāng)時(shí)主要語句為:
以上查詢使用用了ES中的in查詢，in中id數(shù)量遠(yuǎn)超1024，默認(rèn)情況下參數(shù)indices.query.bool.max_clause_count值為1024，此參數(shù)限制大查詢占用過多的CPU和內(nèi)存，此查詢遠(yuǎn)超此限制將占用大量的CPU和內(nèi)存資源。
整改方法：采用循環(huán)查詢，一次取100個(gè)id的 數(shù)據(jù)，經(jīng)測試查詢總耗時(shí)與原方法無較大差異，資源消耗卻大大減少。
并且針對大索引的查詢，應(yīng)用程序之前是使用from-size，from-size的工作原理是：如size=10&from=100，那么ElasticSearch會從每個(gè)Shard里取出100條數(shù)據(jù)，然后再排序，取出前10條。
由此觀之，當(dāng)索引非常大時(shí)，from-size查詢對集群的壓力會特別高，相對于from和size的分頁來說，使用scroll可以模擬一個(gè)傳統(tǒng)數(shù)據(jù)的游標(biāo)，記錄當(dāng)前讀取的文檔信息位置。所以scroll查詢能大大降低集群的壓力。

本文作者：劉 能（上海新炬王翦團(tuán)隊(duì)）

本文來源：“IT那活兒”公眾號

文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址：http://systransis.cn/yun/129401.html

相關(guān)文章

  • 樂心醫(yī)療的 Kubernetes云平臺建設(shè)實(shí)踐

    摘要：宋體自年被開源以來，很快便成為了容器編排領(lǐng)域的標(biāo)準(zhǔn)。宋體年月，樂心醫(yī)療的第一個(gè)生產(chǎn)用集群正式上線。所以于年推出后，樂心醫(yī)療的運(yùn)維團(tuán)隊(duì)在開會討論之后一致決定盡快遷移到。Kubernetes 自 2014 年被 Google 開源以來，很快便成為了容器編排領(lǐng)域的標(biāo)準(zhǔn)。因其支持自動化部署、大規(guī)?？缮炜s和容器化管理等天然優(yōu)勢，已經(jīng)被廣泛接納。但由于 Kubernetes 本身的復(fù)雜性，也讓很多企業(yè)的...

    testHs 評論0 收藏0

  • 某熊的技術(shù)之路指北 ?

    某熊的技術(shù)之路指北 ? 當(dāng)我們站在技術(shù)之路的原點(diǎn)，未來可能充滿了迷茫，也存在著很多不同的可能；我們可能成為 Web/(大)前端/終端工程師、服務(wù)端架構(gòu)工程師、測試/運(yùn)維/安全工程師等質(zhì)量保障、可用性保障相關(guān)的工程師、大數(shù)據(jù)/云計(jì)算/虛擬化工程師、算法工程師、產(chǎn)品經(jīng)理等等某個(gè)或者某幾個(gè)角色。某熊的技術(shù)之路系列文章/書籍/視頻/代碼即是筆者蹣跚行進(jìn)于這條路上的點(diǎn)滴印記，包含了筆者作為程序員的技術(shù)視野、...

    shadowbook 評論0 收藏0

  • 前端資源收集整理

    摘要：工作原因，最近一年斷斷續(xù)續(xù)寫了一點(diǎn)前端代碼，收集整理了一些資料，和大家共享。 工作原因，最近一年斷斷續(xù)續(xù)寫了一點(diǎn)前端代碼，收集整理了一些資料，和大家共享。 Github版本：Front-End Resource Collection 前端相關(guān)資源匯總 學(xué)習(xí)指導(dǎo) 精華文章 Web前端的路該怎么走？：文章超長，但是干貨超級多，值得反復(fù)精讀！ 聽說2017你想寫前端？：適合于已經(jīng)度過了小白階...

    awesome23 評論0 收藏0

  • 前端資源收集整理

    摘要：工作原因，最近一年斷斷續(xù)續(xù)寫了一點(diǎn)前端代碼，收集整理了一些資料，和大家共享。 工作原因，最近一年斷斷續(xù)續(xù)寫了一點(diǎn)前端代碼，收集整理了一些資料，和大家共享。 Github版本：Front-End Resource Collection 前端相關(guān)資源匯總 學(xué)習(xí)指導(dǎo) 精華文章 Web前端的路該怎么走？：文章超長，但是干貨超級多，值得反復(fù)精讀！ 聽說2017你想寫前端？：適合于已經(jīng)度過了小白階...

    antyiwei 評論0 收藏0

  • 前端資源收集整理

    摘要：工作原因，最近一年斷斷續(xù)續(xù)寫了一點(diǎn)前端代碼，收集整理了一些資料，和大家共享。 工作原因，最近一年斷斷續(xù)續(xù)寫了一點(diǎn)前端代碼，收集整理了一些資料，和大家共享。 Github版本：Front-End Resource Collection 前端相關(guān)資源匯總 學(xué)習(xí)指導(dǎo) 精華文章 Web前端的路該怎么走？：文章超長，但是干貨超級多，值得反復(fù)精讀！ 聽說2017你想寫前端？：適合于已經(jīng)度過了小白階...

    KavenFan 評論0 收藏0

發(fā)表評論

0條評論

最新活動
閱讀需要支付1元查看
<