成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

Elasticsearch上云使用規(guī)范問題與解決

IT那活兒 / 1670人閱讀
Elasticsearch上云使用規(guī)范問題與解決
點擊上方“IT那活兒”公眾號，關(guān)注后了解更多內(nèi)容，不管IT什么活兒，干就完了?。。?/strong>
一

背景介紹

Elasticsearch（以下簡稱ES） 是一個分布式、高擴(kuò)展、高實時的搜索與數(shù)據(jù)分析引擎。它能很方便的使大量數(shù)據(jù)具有搜索、分析和探索的能力。充分利用ES的水平伸縮性，能使數(shù)據(jù)在生產(chǎn)環(huán)境變得更有價值。
ES可以用于搜索各種文檔。它提供可擴(kuò)展的搜索，具有接近實時的搜索，并支持多租戶。

ES是分布式的，這意味著索引可以被分成分片，每個分片可以有0個或多個副本。每個節(jié)點托管一個或多個分片，并充當(dāng)協(xié)調(diào)器將操作委托給正確的分片。再平衡和路由是自動完成的。相關(guān)數(shù)據(jù)通常存儲在同一個索引中，該索引由一個或多個主分片和零個或多個復(fù)制分片組成。一旦創(chuàng)建了索引，就不能更改主分片的數(shù)量。

二

問題描述

在某運(yùn)營商上云業(yè)務(wù)中，依照統(tǒng)一的上云規(guī)范，大量的上云應(yīng)用服務(wù)日志均需要接入了ES集群，用來存儲日志或者中間數(shù)據(jù)，保證異常時候可以查詢并追溯問題。但因前期對ES集群使用的經(jīng)驗不足，導(dǎo)致了較多的問題。主要有如下幾個方面：
2.1 前期為了方便業(yè)務(wù)上云，對申請ES資源的業(yè)務(wù)及相關(guān)人員臺賬統(tǒng)計的不夠明確，有些僅有應(yīng)用廠家聯(lián)系人甚至有些聯(lián)系人都沒有，導(dǎo)致后續(xù)集群調(diào)整或改造時，較難通知到對應(yīng)的業(yè)務(wù)。
2.2 各種業(yè)務(wù)不用應(yīng)用人員開發(fā)人員，對ES的熟悉程度良莠不齊，導(dǎo)致了許多使用不規(guī)范的問題，比如索引創(chuàng)建不帶時間，一個索引一個分片一直寫，最大的索引一個分片寫到有接近1T的數(shù)據(jù)，對集群維護(hù)和讀寫性能方面帶來了很大的挑戰(zhàn)和問題，經(jīng)常一個大的查詢就導(dǎo)致節(jié)點GC宕機(jī)。
2.3 很多業(yè)務(wù)存在小數(shù)據(jù)量的索引，創(chuàng)建也使用了按天創(chuàng)建索引，一個索引至少是一個主分片，直接導(dǎo)致了集群索引分片浪費(fèi)，一個分片只存放了幾兆甚至幾百KB的數(shù)據(jù)，導(dǎo)致集群的分片數(shù)量增速過快，甚至超過了單節(jié)點3000分片的默認(rèn)閾值，引起集群異常。

2.4 因前期的硬件資源緊張，但上云速度較快，直接導(dǎo)致出現(xiàn)存放日志數(shù)據(jù)和存放業(yè)務(wù)數(shù)據(jù)的索引均集中在一個集群混用，彼此之間也存在較大的影響。

三

分析過程

針對以上的這些問題，我們在逐步的使用和摸索中，逐一進(jìn)行了分析，對以上的問題我們也逐步解決，詳細(xì)如下：
3.1 針對半路接手維護(hù)信息，臺賬信息統(tǒng)計不全問題，我們首先是對所有后續(xù)新申請的業(yè)務(wù)進(jìn)行了申請單制度，將原有的ES使用申請進(jìn)行臺賬重新統(tǒng)計，必須包含局方項目經(jīng)理、廠家接口人、客戶端IP、保留周期等信息，方便后續(xù)集群調(diào)整時或異常時及時通知廠家。
臺賬統(tǒng)計樣例：
申請單樣例：
3.2 針對ES使用方法存在不合理的方面，比如無日期索引，按日創(chuàng)建的小索引，我們都逐一要求業(yè)務(wù)進(jìn)行整改，小索引至少保證采用按月建立，以滿足ES使用單分片30~50G的最佳實踐值。同時在申請單上反復(fù)進(jìn)行強(qiáng)調(diào)索引創(chuàng)建的要求和規(guī)則，避免業(yè)務(wù)出錯。
3.3 考慮前期ES集群負(fù)載長期過高經(jīng)常出問題的情況，我們對ES進(jìn)行了改造和升級，首先是安裝了業(yè)務(wù)專用的ES集群，將日志和業(yè)務(wù)數(shù)據(jù)進(jìn)行拆分，將前期的業(yè)務(wù)數(shù)據(jù)相關(guān)業(yè)務(wù)遷移至了業(yè)務(wù)專用集群，同時對性能不足的日志集群進(jìn)行了擴(kuò)容，減輕集群負(fù)載。
按月整改前后：
修改后按月創(chuàng)建：
3.4 在保證了業(yè)務(wù)使用ES創(chuàng)建索引都進(jìn)行了合理的分日和分月后，我們對其索引的保留周期同樣進(jìn)行了統(tǒng)計，然后依據(jù)不同業(yè)務(wù)不同周期，進(jìn)行索引的定期offline和delete，保證ES集群的分片管理數(shù)量維持在一個良好的數(shù)據(jù)區(qū)間，保障集群的運(yùn)行高效穩(wěn)定。
3.5 為了滿足業(yè)務(wù)的測試需求，我們又多帶帶為業(yè)務(wù)提供了同環(huán)境的測試集群，在上線流程上我們規(guī)定所有業(yè)務(wù)均必須先進(jìn)入測試環(huán)境使用，并統(tǒng)計測試環(huán)境臺賬，保證ES的規(guī)范合規(guī)，待業(yè)務(wù)正式上線時，檢測業(yè)務(wù)的索引模板和設(shè)置滿足要求后，才允許進(jìn)入生產(chǎn)環(huán)境使用，從流程上杜絕亂建索引和亂配置索引的問題。

四

成果展示

經(jīng)過以上從流程上、配置上進(jìn)行的一些規(guī)范操作和擴(kuò)容遷移操作等，原有ES集群內(nèi)存使用率高經(jīng)常GC問題得以解決。
內(nèi)存使用率最高從91%下降至目前穩(wěn)定在50%左右，且可保證長期穩(wěn)定運(yùn)行，再無節(jié)點出現(xiàn)高負(fù)載或頻繁GC導(dǎo)致宕機(jī)的情況出現(xiàn)。
整改并擴(kuò)容前后集群資源使用差異：
         


本文作者：何 青(上海新炬中北團(tuán)隊）

本文來源：“IT那活兒”公眾號

文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請注明本文地址：http://systransis.cn/yun/129122.html

相關(guān)文章

  • 打通本地部署和公有云，混合云架構(gòu)讓“魚”和“熊掌”兼得（一）

    摘要：對于上述問題，混合云架構(gòu)無疑是企業(yè)的最佳選擇。解決方案將本地環(huán)境與公有云連通組成混合云架構(gòu)，實現(xiàn)對本地環(huán)境計算能力的快速擴(kuò)展。前言當(dāng)前各行各業(yè)在積極擁抱云計算，但由于一些歷史原因和合規(guī)要求導(dǎo)致很多企業(yè)全面上云比較困難，比如企業(yè)監(jiān)管制度及合規(guī)要求一些核心數(shù)據(jù)庫必須保留在本地數(shù)據(jù)中心；本地數(shù)據(jù)中心作為企業(yè)固定資產(chǎn)不容易完全拋棄；有些大型集團(tuán)企業(yè)IT架構(gòu)復(fù)雜，全面遷移上云的影響難以評估等等。因此，...

    Tecode 評論0 收藏0

  • 打通本地部署和公有云，混合云架構(gòu)讓“魚”和“熊掌”兼得（一）

    摘要：對于上述問題，混合云架構(gòu)無疑是企業(yè)的最佳選擇。解決方案將本地環(huán)境與公有云連通組成混合云架構(gòu)，實現(xiàn)對本地環(huán)境計算能力的快速擴(kuò)展。前言當(dāng)前各行各業(yè)在積極擁抱云計算，但由于一些歷史原因和合規(guī)要求導(dǎo)致很多企業(yè)全面上云比較困難，比如企業(yè)監(jiān)管制度及合規(guī)要求一些核心數(shù)據(jù)庫必須保留在本地數(shù)據(jù)中心；本地數(shù)據(jù)中心作為企業(yè)固定資產(chǎn)不容易完全拋棄；有些大型集團(tuán)企業(yè)IT架構(gòu)復(fù)雜，全面遷移上云的影響難以評估等等。因此，...

    Tecode 評論0 收藏0

  • 中國公有云市場不及美國3%，企業(yè)上云是發(fā)展工業(yè)互聯(lián)網(wǎng)的前提

    摘要：但目前中國企業(yè)的信息化程度并不高，甚至大部分中小企業(yè)還處于工業(yè)階段。數(shù)據(jù)顯示，中國公有云市場不及美國，而美國大概只有萬家中小企業(yè)，可見中國企業(yè)上云程度有多低。三個問題，讓你徹底明白企業(yè)為什么上云以及企業(yè)上云的好處一提到企業(yè)上云，總會有很多人問上云有什么好處、為什么要上云這類問題。這些問題很簡單，卻不是簡單幾句就能回答的，問這些問題的甚至不知道什么是云，更不用提工業(yè)互聯(lián)網(wǎng)，有些企業(yè)連內(nèi)部互聯(lián)網(wǎng)...

    CoreDump 評論0 收藏0

  • 可能是東半球最簡單的Java應(yīng)用日志上云方案了

    摘要：輕松輸出應(yīng)用日志到七牛云平臺背景云計算發(fā)展至今，企業(yè)應(yīng)用的方方面面都已經(jīng)在云上或者準(zhǔn)備上云了。方案本篇主要介紹下如何利用七牛云大數(shù)據(jù)日志平臺來無縫收集應(yīng)用日志，方便后續(xù)的日志分析等工作。 輕松輸出Java應(yīng)用日志到七牛云平臺 背景 云計算發(fā)展至今，企業(yè)應(yīng)用的方方面面都已經(jīng)在云上或者準(zhǔn)備上云了。無論是Iaas還是Paas，應(yīng)用開發(fā)的首選即是上云，因為云平臺不僅可以節(jié)約開發(fā)和部署流程中的時...

    TANKING 評論0 收藏0

發(fā)表評論

0條評論

IT那活兒

男|高級講師

TA的文章

閱讀更多
最新活動
閱讀需要支付1元查看
<