摘要:傳播安全上下文或使用,通過增加的屬性,來增加相關的配置來達到執(zhí)行隔離策略,控制線程數(shù)或者控制并發(fā)請求數(shù)來達到熔斷降級的作用。
SpringCloud(第 015 篇)電影Ribbon微服務集成Hystrix增加隔離策略控制線程數(shù)或請求數(shù)來達到熔斷降級的作用
-
一、大致介紹1、本章節(jié)介紹關于Hystrix的2種隔離方式(Thread Pool 和 Semaphores); 2、ThreadPool:這是比較常用的隔離策略,即根據(jù)配置把不同的命令分配到不同的線程池中,該策略的優(yōu)點是隔離性好,并且可以配置斷路,某個依賴被設置斷路之后,系統(tǒng)不會再嘗試新起線程運行它,而是直接提示失敗,或返回fallback值;缺點是新起線程執(zhí)行命令,在執(zhí)行的時候必然涉及到上下文的切換,這會造成一定的性能消耗,但是Netflix做過實驗,這種消耗對比其帶來的價值是完全可以接受的。 3、Semaphores:開發(fā)者可以限制系統(tǒng)對某一個依賴的最高并發(fā)數(shù)。這個基本上就是一個限流的策略。每次調用依賴時都會檢查一下是否到達信號量的限制值,如達到,則拒絕。該隔離策略的優(yōu)點不新起線程執(zhí)行命令,減少上下文切換,缺點是無法配置斷路,每次都一定會去嘗試獲取信號量。 4、而本章節(jié)主要簡單的介紹下如何使用 Semaphores 來達到控制隔離;二、實現(xiàn)步驟 2.1 添加 maven 引用包
2.2 添加應用配置文件(springms-consumer-movie-ribbon-with-hystrix-propagationsrcmainresourcesapplication.yml)4.0.0 springms-consumer-movie-ribbon-with-hystrix-propagation 1.0-SNAPSHOT jar com.springms.cloud springms-spring-cloud 1.0-SNAPSHOT org.springframework.boot spring-boot-starter-web org.springframework.cloud spring-cloud-starter-eureka org.springframework.cloud spring-cloud-starter-hystrix
spring: application: name: springms-consumer-movie-ribbon-with-hystrix-propagation server: port: 8100 #做負載均衡的時候,不需要這個動態(tài)配置的地址 #user: # userServicePath: http://localhost:7900/simple/ eureka: client: # healthcheck: # enabled: true serviceUrl: defaultZone: http://admin:admin@localhost:8761/eureka instance: prefer-ip-address: true instance-id: ${spring.application.name}:${spring.cloud.client.ipAddress}:${spring.application.instance_id:${server.port}} # 解決第一次請求報超時異常的方案,因為 hystrix 的默認超時時間是 1 秒,因此請求超過該時間后,就會出現(xiàn)頁面超時顯示 : # # 這里就介紹大概三種方式來解決超時的問題,解決方案如下: # # 第一種方式:將 hystrix 的超時時間設置成 5000 毫秒 hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds: 5000 # # 或者: # 第二種方式:將 hystrix 的超時時間直接禁用掉,這樣就沒有超時的一說了,因為永遠也不會超時了 # hystrix.command.default.execution.timeout.enabled: false # # 或者: # 第三種方式:索性禁用feign的hystrix支持 # feign.hystrix.enabled: false ## 索性禁用feign的hystrix支持 # 超時的issue:https://github.com/spring-cloud/spring-cloud-netflix/issues/768 # 超時的解決方案: http://stackoverflow.com/questions/27375557/hystrix-command-fails-with-timed-out-and-no-fallback-available # hystrix配置: https://github.com/Netflix/Hystrix/wiki/Configuration#execution.isolation.thread.timeoutInMilliseconds2.3 添加實體用戶類User(springms-consumer-movie-ribbon-with-hystrix-propagationsrcmainjavacomspringmscloudentityUser.java)
package com.springms.cloud.entity; import java.math.BigDecimal; public class User { private Long id; private String username; private String name; private Short age; private BigDecimal balance; public Long getId() { return this.id; } public void setId(Long id) { this.id = id; } public String getUsername() { return this.username; } public void setUsername(String username) { this.username = username; } public String getName() { return this.name; } public void setName(String name) { this.name = name; } public Short getAge() { return this.age; } public void setAge(Short age) { this.age = age; } public BigDecimal getBalance() { return this.balance; } public void setBalance(BigDecimal balance) { this.balance = balance; } }2.4 添加電影Web訪問層Controller(springms-consumer-movie-ribbon-with-hystrix-propagationsrcmainjavacomspringmscloudcontrollerMovieRibbonHystrixPropagationController.java)
package com.springms.cloud.controller; import com.springms.cloud.entity.User; import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand; import com.netflix.hystrix.contrib.javanica.annotation.HystrixProperty; import org.slf4j.Logger; import org.slf4j.LoggerFactory; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RestController; import org.springframework.web.client.RestTemplate; @RestController public class MovieRibbonHystrixPropagationController { @Autowired private RestTemplate restTemplate; @GetMapping("/movie/{id}") @HystrixCommand(fallbackMethod = "findByIdFallback", commandProperties = @HystrixProperty(name = "execution.isolation.strategy", value = "SEMAPHORE")) public User findById(@PathVariable Long id) { // http://localhost:7900/simple/ // VIP:virtual IP // HAProxy Heartbeat System.out.println("======================== findById " + Thread.currentThread().getThreadGroup() + " - " + Thread.currentThread().getId() + " - " + Thread.currentThread().getName()); return this.restTemplate.getForObject("http://springms-provider-user/simple/" + id, User.class); } public User findByIdFallback(Long id) { System.out.println("======================== findByIdFallback " + Thread.currentThread().getThreadGroup() + " - " + Thread.currentThread().getId() + " - " + Thread.currentThread().getName()); User user = new User(); user.setId(0L); return user; } }2.5 添加電影微服務啟動類(springms-consumer-movie-ribbon-with-hystrix-propagationsrcmainjavacomspringmscloudMsConsumerMovieRibbonHystrixPropagationApplication.java)
package com.springms.cloud; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker; import org.springframework.cloud.client.loadbalancer.LoadBalanced; import org.springframework.cloud.netflix.eureka.EnableEurekaClient; import org.springframework.context.annotation.Bean; import org.springframework.web.client.RestTemplate; /** * 電影Ribbon微服務集成Hystrix增加隔離策略控制線程數(shù)或請求數(shù)來達到熔斷降級的作用。 * * 傳播安全上下文或使用,通過增加 HystrixCommand 的 commandProperties 屬性,來增加相關的配置來達到執(zhí)行隔離策略,控制線程數(shù)或者控制并發(fā)請求數(shù)來達到熔斷降級的作用。 * * Hystrix 斷路器實現(xiàn)失敗快速響應,達到熔斷效果; * * 注解 EnableCircuitBreaker 表明需要集成斷路器模塊; * * 如果你想把本地線程上下文傳播到@HystrixCommand,默認的聲明將不可用因為它是在一個線程池中被啟動的。你可以選擇讓Hystrix使用同一個線程,通過一些配置,或直接寫在注解上,通過使用isolation strategy屬性; * * @author hmilyylimh * * @version 0.0.1 * * @date 2017/9/21 * */ @SpringBootApplication @EnableEurekaClient @EnableCircuitBreaker public class MsConsumerMovieRibbonHystrixPropagationApplication { @Bean @LoadBalanced public RestTemplate restTemplate(){ return new RestTemplate(); } public static void main(String[] args) { SpringApplication.run(MsConsumerMovieRibbonHystrixPropagationApplication.class, args); System.out.println("【【【【【【 電影微服務-Hystrix安全傳播上下文 】】】】】】已啟動."); } }三、測試
/**************************************************************************************** 一、電影 Ribbon 微服務集成 Hystrix 斷路器實現(xiàn)失敗快速響應,達到熔斷效果: 1、注解:EnableCircuitBreaker、HystrixCommand 的編寫; 2、啟動 springms-provider-user 模塊服務,啟動1個端口; 3、啟動 springms-consumer-movie-ribbon-with-hystrix-propagation 模塊服務; 4、在瀏覽器輸入地址http://localhost:8100/movie/1,然后頁面的信息是否有打印出來用戶的Id=0的情況,正常情況下是沒有用戶Id=0的情況信息打印的; 5、殺死 springms-provider-user 模塊服務,停止提供服務; 6、在瀏覽器輸入地址http://localhost:8100/movie/1,然后頁面的信息是否有打印出來用戶的Id=0的情況,等了1秒中后有用戶Id=0的情況信息打印出來; 7、然后看看控制臺打印的日志: ======================== findById java.lang.ThreadGroup[name=main,maxpri=10] - 56 - http-nio-8100-exec-8 ======================== findByIdFallback java.lang.ThreadGroup[name=main,maxpri=10] - 56 - http-nio-8100-exec-8 ======================== findById java.lang.ThreadGroup[name=main,maxpri=10] - 57 - http-nio-8100-exec-9 ======================== findByIdFallback java.lang.ThreadGroup[name=main,maxpri=10] - 57 - http-nio-8100-exec-9 ======================== findById java.lang.ThreadGroup[name=main,maxpri=10] - 35 - http-nio-8100-exec-1 ======================== findByIdFallback java.lang.ThreadGroup[name=main,maxpri=10] - 35 - http-nio-8100-exec-1 總結一:使用 SEMAPHORE 信號量的時候,雖然不能配置斷路器功能,但是通過控制請求數(shù)來達到一個限流的作用; 8、等一會兒在啟動 springms-provider-user 模塊服務,啟動1個端口; 9、在瀏覽器輸入地址http://localhost:8070/movie/1,然后頁面的信息又有Id!=0的用戶信息打印出來; 總結二:當遠端微服務宕機或者不可用時,Hystrix已經達到快速響應快速失敗,起到了熔斷機制的效果。 ****************************************************************************************/ /**************************************************************************************** 找出一些相關的配置信息僅供參考: Execution相關的屬性的配置: hystrix.command.default.execution.isolation.strategy 隔離策略,默認是Thread, 可選Thread|Semaphore thread 通過線程數(shù)量來限制并發(fā)請求數(shù),可以提供額外的保護,但有一定的延遲。一般用于網(wǎng)絡調用 semaphore 通過semaphore count來限制并發(fā)請求數(shù),適用于無網(wǎng)絡的高并發(fā)請求 hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds 命令執(zhí)行超時時間,默認1000ms hystrix.command.default.execution.timeout.enabled 執(zhí)行是否啟用超時,默認啟用true hystrix.command.default.execution.isolation.thread.interruptOnTimeout 發(fā)生超時是是否中斷,默認true hystrix.command.default.execution.isolation.semaphore.maxConcurrentRequests 最大并發(fā)請求數(shù),默認10,該參數(shù)當使用ExecutionIsolationStrategy.SEMAPHORE策略時才有效。如果達到最大并發(fā)請求數(shù),請求會被拒絕。理論上選擇semaphore size的原則和選擇thread size一致,但選用semaphore時每次執(zhí)行的單元要比較小且執(zhí)行速度快(ms級別),否則的話應該用thread。 semaphore應該占整個容器(tomcat)的線程池的一小部分。 Fallback相關的屬性: 這些參數(shù)可以應用于Hystrix的THREAD和SEMAPHORE策略 hystrix.command.default.fallback.isolation.semaphore.maxConcurrentRequests 如果并發(fā)數(shù)達到該設置值,請求會被拒絕和拋出異常并且fallback不會被調用。默認10 hystrix.command.default.fallback.enabled 當執(zhí)行失敗或者請求被拒絕,是否會嘗試調用hystrixCommand.getFallback() 。默認true Circuit Breaker相關的屬性 hystrix.command.default.circuitBreaker.enabled 用來跟蹤circuit的健康性,如果未達標則讓request短路。默認true hystrix.command.default.circuitBreaker.requestVolumeThreshold 一個rolling window內最小的請求數(shù)。如果設為20,那么當一個rolling window的時間內(比如說1個rolling window是10秒)收到19個請求,即使19個請求都失敗,也不會觸發(fā)circuit break。默認20 hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds 觸發(fā)短路的時間值,當該值設為5000時,則當觸發(fā)circuit break后的5000毫秒內都會拒絕request,也就是5000毫秒后才會關閉circuit。默認5000 hystrix.command.default.circuitBreaker.errorThresholdPercentage錯誤比率閥值,如果錯誤率>=該值,circuit會被打開,并短路所有請求觸發(fā)fallback。默認50 hystrix.command.default.circuitBreaker.forceOpen 強制打開熔斷器,如果打開這個開關,那么拒絕所有request,默認false hystrix.command.default.circuitBreaker.forceClosed 強制關閉熔斷器 如果這個開關打開,circuit將一直關閉且忽略circuitBreaker.errorThresholdPercentage Metrics相關參數(shù): hystrix.command.default.metrics.rollingStats.timeInMilliseconds 設置統(tǒng)計的時間窗口值的,毫秒值,circuit break 的打開會根據(jù)1個rolling window的統(tǒng)計來計算。若rolling window被設為10000毫秒,則rolling window會被分成n個buckets,每個bucket包含success,failure,timeout,rejection的次數(shù)的統(tǒng)計信息。默認10000 hystrix.command.default.metrics.rollingStats.numBuckets 設置一個rolling window被劃分的數(shù)量,若numBuckets=10,rolling window=10000,那么一個bucket的時間即1秒。必須符合rolling window % numberBuckets == 0。默認10 hystrix.command.default.metrics.rollingPercentile.enabled 執(zhí)行時是否enable指標的計算和跟蹤,默認true hystrix.command.default.metrics.rollingPercentile.timeInMilliseconds 設置rolling percentile window的時間,默認60000 hystrix.command.default.metrics.rollingPercentile.numBuckets 設置rolling percentile window的numberBuckets。邏輯同上。默認6 hystrix.command.default.metrics.rollingPercentile.bucketSize 如果bucket size=100,window=10s,若這10s里有500次執(zhí)行,只有最后100次執(zhí)行會被統(tǒng)計到bucket里去。增加該值會增加內存開銷以及排序的開銷。默認100 hystrix.command.default.metrics.healthSnapshot.intervalInMilliseconds 記錄health 快照(用來統(tǒng)計成功和錯誤綠)的間隔,默認500ms Request Context 相關參數(shù): hystrix.command.default.requestCache.enabled 默認true,需要重載getCacheKey(),返回null時不緩存 hystrix.command.default.requestLog.enabled 記錄日志到HystrixRequestLog,默認true Collapser Properties 相關參數(shù): hystrix.collapser.default.maxRequestsInBatch 單次批處理的最大請求數(shù),達到該數(shù)量觸發(fā)批處理,默認Integer.MAX_VALUE hystrix.collapser.default.timerDelayInMilliseconds 觸發(fā)批處理的延遲,也可以為創(chuàng)建批處理的時間+該值,默認10 hystrix.collapser.default.requestCache.enabled 是否對HystrixCollapser.execute() and HystrixCollapser.queue()的cache,默認true ThreadPool 相關參數(shù): 線程數(shù)默認值10適用于大部分情況(有時可以設置得更?。?,如果需要設置得更大,那有個基本得公式可以follow: requests per second at peak when healthy × 99th percentile latency in seconds + some breathing room 每秒最大支撐的請求數(shù) (99%平均響應時間 + 緩存值) 比如:每秒能處理1000個請求,99%的請求響應時間是60ms,那么公式是: 1000 (0.060+0.012) ****************************************************************************************/四、下載地址
https://gitee.com/ylimhhmily/SpringCloudTutorial.git
SpringCloudTutorial交流QQ群: 235322432
SpringCloudTutorial交流微信群: 微信溝通群二維碼圖片鏈接
歡迎關注,您的肯定是對我最大的支持!!!
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉載請注明本文地址:http://systransis.cn/yun/70506.html
摘要:當服務宕機或者不可用時,即請求超時后會調用此方法。添加電影微服務啟動類電影微服務集成斷路器實現(xiàn)失敗快速響應,達到熔斷效果。 SpringCloud(第 014 篇)電影 Ribbon 微服務集成 Hystrix 斷路器實現(xiàn)失敗快速響應,達到熔斷效果 - 一、大致介紹 1、Hystrix 斷路器的原理很簡單,如同電力過載保護器。它可以實現(xiàn)快速失敗,如果它在一段時間內偵測到許多類似的錯誤,...
摘要:是一個相對比較新的微服務框架,年才推出的版本雖然時間最短但是相比等框架提供的全套的分布式系統(tǒng)解決方案。提供線程池不同的服務走不同的線程池,實現(xiàn)了不同服務調用的隔離,避免了服務器雪崩的問題。通過互相注冊的方式來進行消息同步和保證高可用。 Spring Cloud 是一個相對比較新的微服務框架,...
摘要:在該配置中,加入這個方法的話,表明使用了該配置的地方,就會禁用該模塊使用容災降級的功能添加訪問層添加電影微服務啟動類電影微服務,定制,一個功能禁用,另一個功能啟用。 SpringCloud(第 016 篇)電影微服務,定制Feign,一個Feign功能禁用Hystrix,另一個Feign功能啟用Hystrix - 一、大致介紹 1、在一些場景中,部分功能需要使用斷路器功能,部分功能不需...
摘要:集群系統(tǒng)中的單個計算機通常稱為節(jié)點,通常通過局域網(wǎng)連接,但也有其它的可能連接方式。這樣就高興了,可以專心寫自己的,前端就專門交由小周負責了。于是,小周和就變成了協(xié)作開發(fā)。都是為了項目正常運行以及迭代。 一、前言 只有光頭才能變強 認識我的朋友可能都知道我這陣子去實習啦,去的公司說是用SpringCloud(但我覺得使用的力度并不大啊~~)... 所以,這篇主要來講講SpringClou...
閱讀 3924·2021-11-24 09:38
閱讀 3106·2021-11-17 09:33
閱讀 3878·2021-11-10 11:48
閱讀 1244·2021-10-14 09:48
閱讀 3137·2019-08-30 13:14
閱讀 2554·2019-08-29 18:37
閱讀 3400·2019-08-29 12:38
閱讀 1422·2019-08-29 12:30