摘要：系統(tǒng)需要支持命令的撤銷(xiāo)。第步計(jì)算斷路器的健康度會(huì)將成功失敗拒絕超時(shí)等信息報(bào)告給斷路器，斷路器會(huì)維護(hù)一組計(jì)數(shù)器來(lái)統(tǒng)計(jì)這些數(shù)據(jù)。第步，當(dāng)前命令的線程池請(qǐng)求隊(duì)列或者信號(hào)量被占滿的時(shí)候。

在分布式架構(gòu)中，當(dāng)某個(gè)服務(wù)單元發(fā)生故障之后，通過(guò)斷路由器的故障監(jiān)控(類(lèi)似熔斷保險(xiǎn)絲)，向調(diào)用方返回一個(gè)錯(cuò)誤響應(yīng)，而不是長(zhǎng)時(shí)間的等待。這樣就不會(huì)使得線程因調(diào)用故障服務(wù)被長(zhǎng)時(shí)間占用不釋放，避免了故障在分布式系統(tǒng)中的蔓延。

Spring Cloud Hystrix針對(duì)上述問(wèn)題實(shí)現(xiàn)了斷路由器、線程隔離等一系列服務(wù)保護(hù)功能。它是基于Netflix Hystrix實(shí)現(xiàn)，該框架的目標(biāo)在于通過(guò)控制那些訪問(wèn)遠(yuǎn)程系統(tǒng)、服務(wù)和第三方庫(kù)的節(jié)點(diǎn)，從而對(duì)延遲和故障提供更強(qiáng)大的容錯(cuò)能力。

Hystrix具備服務(wù)降級(jí)、服務(wù)熔斷、線程和信號(hào)隔離、請(qǐng)求緩存、請(qǐng)求合并以及服務(wù)監(jiān)控等強(qiáng)大功能。

構(gòu)建一個(gè)如下架構(gòu)圖的服務(wù)調(diào)用關(guān)系

分析上述架構(gòu)圖，主要有以下幾項(xiàng)工作：

eureka-server工程: 服務(wù)注冊(cè)中心，端口1111

hello-service工程: HELLO-SERVICE服務(wù)單元，啟動(dòng)兩個(gè)實(shí)例，端口分別為8081和8082

ribbon-consumer工程: 使用Ribbon實(shí)現(xiàn)的服務(wù)消費(fèi)者，端口9000

首先在pom.xml文件中增加spring-cloud-starter-hystrix依賴(lài)

在ribbon-consumer主類(lèi)中使用@EnableCircuitBreaker注解開(kāi)啟斷路由器功能，在這里還有一個(gè)小技巧，可以使用@SpringCloudApplicationd代替@EnableCircuitBreaker、@EnableEurekaClient、@SpringBootApplication這三個(gè)注解。

改造ribbon-consumer中的HelloService，如下

package cn.sh.ribbon.service;

import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import org.springframework.web.client.RestTemplate;

/**
 * @author sh
 */
@Service
public class HelloService {

    private static final Logger logger = LoggerFactory.getLogger(HelloService.class);

    @Autowired
    private RestTemplate restTemplate;

    /**
     * 使用@HystrixCommand注解指定回調(diào)方法
     * @param name
     * @return
     */
    @HystrixCommand(fallbackMethod = "ribbonHelloFallback", commandKey = "helloKey")
    public String ribbonHello(String name) {
        long start = System.currentTimeMillis();
        String result = restTemplate.getForObject("http://HELLO-SERVICE/hello?name=" + name, String.class);
        long end = System.currentTimeMillis();
        logger.info("Spend Time:" + (end - start));
        return result;
    }

    public String ribbonHelloFallback() {
        return "Hello, this is fallback";
    }
}

改造hello-service模塊中的HelloService.java，如下:

package cn.sh.hello.service;

import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Service;

import java.util.Random;

/**
 * @author sh
 */
@Service
public class HelloService {

    private static final Logger logger = LoggerFactory.getLogger(HelloService.class);

    public String hello(String name) throws InterruptedException {
        int sleepTime = new Random().nextInt(3000);
        logger.info("sleepTime:" + sleepTime);
        Thread.sleep(sleepTime);
        return "Hello, " + name;
    }
}

在服務(wù)提供者的改造中，我們會(huì)讓方法阻塞幾秒中返回內(nèi)容，由于Hystrix默認(rèn)的超時(shí)時(shí)間為2000ms，在這里產(chǎn)生0-3000的隨機(jī)數(shù)可以讓處理過(guò)程有一定概率觸發(fā)斷路由器。

下面根據(jù)工作流程圖，我們來(lái)分析一下Hystrix是如何工作的。

首先，構(gòu)建一個(gè)HystrixCommand或HystrixObservableCommand對(duì)象，用來(lái)表示對(duì)依賴(lài)服務(wù)的操作請(qǐng)求，同時(shí)傳遞所有需要的參數(shù)。這兩個(gè)對(duì)象都采用了命令模式來(lái)實(shí)現(xiàn)對(duì)服務(wù)調(diào)用操作的封裝，但是這兩個(gè)對(duì)象分別針對(duì)不同的應(yīng)用場(chǎng)景。

HystrixCommand: 用在依賴(lài)的服務(wù)返回單個(gè)操作結(jié)果的時(shí)候

HystrixObservableCommand: 用在依賴(lài)的服務(wù)返回多個(gè)操作結(jié)果的時(shí)候

命令模式，將來(lái)自客戶(hù)端的請(qǐng)求封裝成一個(gè)對(duì)象，從而讓你可以使用不同的請(qǐng)求對(duì)客戶(hù)端進(jìn)行參數(shù)化。它可以用于實(shí)現(xiàn)行為請(qǐng)求者和行為實(shí)現(xiàn)者的解耦，以便使兩者可以適應(yīng)變化

命令模式的示例代碼在command模塊下

通過(guò)命令模式的示例代碼可以分析出命令模式的幾個(gè)關(guān)鍵點(diǎn)：

Receiver: 接收者，處理具體的業(yè)務(wù)邏輯

Command: 抽象命令，定義了一個(gè)對(duì)象應(yīng)具備的一系列命令操作，如execute()、undo()、redo()等。當(dāng)命令操作被調(diào)用的時(shí)候就會(huì)觸發(fā)接收者做具體命令對(duì)應(yīng)的業(yè)務(wù)邏輯。

ConcreteCommand: 具體的命令實(shí)現(xiàn)，在這里要綁定命令操作和接收者之間的關(guān)系，execute()命令的實(shí)現(xiàn)轉(zhuǎn)交給了Receiver的action()方法

Invoker: 調(diào)用者，它擁有一個(gè)命令對(duì)象，可以在需要時(shí)通過(guò)命令對(duì)象完成具體的業(yè)務(wù)邏輯

命令模式中Invoker和Receiver的關(guān)系非常類(lèi)似于請(qǐng)求-響應(yīng)模式，所以它比較適用于實(shí)現(xiàn)記錄日志、撤銷(xiāo)操作、隊(duì)列請(qǐng)求等。

以下情況我們可以考慮使用命令模式:

使用命令模式作為回調(diào)在面向?qū)ο笙到y(tǒng)中的替代。

需要在不同的時(shí)間指定請(qǐng)求、將請(qǐng)求排隊(duì)。一個(gè)命令對(duì)象和原先的請(qǐng)求發(fā)出者可以有不同的生命周期。換言之，原先的請(qǐng)求發(fā)出者可能已經(jīng)不在了，但是命令本身仍然是活動(dòng)的。這時(shí)命令的接收者可以是在本地，也可以在網(wǎng)絡(luò)的另一個(gè)地址。命令對(duì)象可以在序列化之后傳送到另一臺(tái)機(jī)器上。

系統(tǒng)需要支持命令的撤銷(xiāo)。命令對(duì)象可以把狀態(tài)存儲(chǔ)起來(lái)，等到客戶(hù)端需要撤銷(xiāo)命令所產(chǎn)生的效果時(shí)，可以調(diào)用undo()方法，把命令所產(chǎn)生的效果撤銷(xiāo)掉。命令對(duì)象還提供redo()方法，以供客戶(hù)端在需要時(shí)再重新實(shí)施命令效果。

如果要將系統(tǒng)中所有的數(shù)據(jù)更新到日志里，以便在系統(tǒng)崩潰時(shí)，可以根據(jù)日志讀回所有的數(shù)據(jù)更新命令，重新調(diào)用execute()方法一條一條執(zhí)行這些命令，從而恢復(fù)系統(tǒng)在崩潰前所做的數(shù)據(jù)更新。

從圖中我們可以看到一共存在4種命令的執(zhí)行方式，Hystrix在執(zhí)行時(shí)會(huì)根據(jù)創(chuàng)建的Command對(duì)象以及具體的情況來(lái)選擇一個(gè)執(zhí)行。

HystrixCommand

HystrixCommand實(shí)現(xiàn)了兩個(gè)執(zhí)行方式：

execute(): 同步執(zhí)行，從依賴(lài)的服務(wù)返回一個(gè)單一的結(jié)果對(duì)象，或是在錯(cuò)誤時(shí)拋出異常

queue(): 異步執(zhí)行，直接返回一個(gè)Future對(duì)象，其中包含了服務(wù)執(zhí)行結(jié)束時(shí)要返回的單一結(jié)果對(duì)象。

R value = command.execute();
Future fValue = command.queue();

HystrixObservableCommand

HystrixObservableCommand實(shí)現(xiàn)了另兩種執(zhí)行方式:

observer(): 返回Observable對(duì)象，它代表了操作的多個(gè)結(jié)果，是一個(gè)HotObservable

toObservable(): 同樣返回Observable對(duì)象，也代表操作的多個(gè)結(jié)果，返回的是一個(gè)ColdObservable

Observable ohvalue = command.observe();
Observable ocvalue = command.toObservable();

Hot Observable和Cold Observable，分別對(duì)應(yīng)了上面command.observe()和command.toObservable的返回對(duì)象。

Hot Observable，不論事件源是否有訂閱者，都會(huì)在創(chuàng)建后對(duì)事件進(jìn)行發(fā)布，所以對(duì)Hot Observable的每一個(gè)訂閱者都有可能是從事件源的中途開(kāi)始的，并可能只是看到了整個(gè)操作的局部過(guò)程。

Cold Observable在沒(méi)有訂閱者的時(shí)候不會(huì)發(fā)布事件，而是進(jìn)行等待，直到有訂閱者后才會(huì)發(fā)布事件，所以對(duì)于Cold Observable的訂閱者，它可以保證從一開(kāi)始看到整個(gè)操作的全部過(guò)程。

HystrixCommand也使用RxJava實(shí)現(xiàn)：

execute():該方法是通過(guò)queue()返回的異步對(duì)象Future的get()方法來(lái)實(shí)現(xiàn)同步執(zhí)行的。該方法會(huì)等待任務(wù)執(zhí)行結(jié)束，然后獲得R類(lèi)型的結(jié)果返回。

queue():通過(guò)toObservable()獲得一個(gè)Cold Observable，并且通過(guò)通過(guò)toBlocking()將該Observable轉(zhuǎn)換成BlockingObservable，它可以把數(shù)據(jù)以阻塞的方式發(fā)出來(lái)，toFuture方法則是把BlockingObservable轉(zhuǎn)換為一個(gè)Future，該方法只是創(chuàng)建一個(gè)Future返回，并不會(huì)阻塞，這使得消費(fèi)者可以自己決定如何處理異步操作。execute()則是直接使用了queue()返回的Future中的阻塞方法get()來(lái)實(shí)現(xiàn)同步操作的。

通過(guò)這種方式轉(zhuǎn)換的Future要求Observable只發(fā)射一個(gè)數(shù)據(jù)，所以這兩個(gè)實(shí)現(xiàn)都只能返回單一結(jié)果。

在Hystrix的底層實(shí)現(xiàn)中大量使用了RxJava。上面提到的Observable對(duì)象就是RxJava的核心內(nèi)容之一，可以把Observable對(duì)象理解為事件源或是被觀察者，與其對(duì)應(yīng)的是Subscriber對(duì)象，可以理解為訂閱者或是觀察者。

Observable用來(lái)向訂閱者Subscriber對(duì)象發(fā)布事件，Subscriber對(duì)象在接收到事件后對(duì)其進(jìn)行處理，這里所指的事件通常就是對(duì)依賴(lài)服務(wù)的調(diào)用。

一個(gè)Observable可以發(fā)出多個(gè)事件，直到結(jié)束或是發(fā)生異常。

Observable對(duì)象每發(fā)出一個(gè)事件，就會(huì)調(diào)用對(duì)應(yīng)觀察者Subscriber對(duì)象的onNext()方法。

每一個(gè)Observable的執(zhí)行，最后一定會(huì)通過(guò)調(diào)用Subscriber.onCompleted()或是Subscriber.onError()來(lái)結(jié)束該事件的操作流。

若當(dāng)前命令的請(qǐng)求緩存功能是被啟用的，并且該命令緩存命中，那么緩存的結(jié)果會(huì)立即以O(shè)bservable對(duì)象的形式返回。

在命令結(jié)果沒(méi)有緩存命中的時(shí)候，Hystrix在執(zhí)行命令前需要檢查斷路器是否為打開(kāi)狀態(tài):

如果斷路器是打開(kāi)的，Hystrix不會(huì)執(zhí)行命令，而是直接賺到fallback處理邏輯(對(duì)應(yīng)下面第8步)

如果斷路器是關(guān)閉的，那么Hystrix會(huì)跳到第5步，檢查是否有可用資源來(lái)執(zhí)行命令。

如果與命令相關(guān)的線程池和請(qǐng)求隊(duì)列或者信號(hào)量(不使用線程池的時(shí)候)已被占滿，那么Hystrix不會(huì)執(zhí)行命令，轉(zhuǎn)接到fallback處理邏輯(對(duì)應(yīng)下面第8步)

Hystrix所判斷的線程池并非容器的線程池，而是每個(gè)依賴(lài)服務(wù)的專(zhuān)有線程池。Hystrix為了保證不會(huì)因?yàn)槟硞€(gè)依賴(lài)服務(wù)的問(wèn)題影響到其他依賴(lài)服務(wù)而采用了艙壁模式來(lái)隔離每個(gè)依賴(lài)的服務(wù)。

Hystrix會(huì)根據(jù)我們編寫(xiě)的方法來(lái)決定采取什么樣的方式去請(qǐng)求依賴(lài)服務(wù):

HystrixCommand.run(): 返回一個(gè)單一的結(jié)果，或者拋出異常

HystrixObservableCommand.construct(): 返回一個(gè)Observable對(duì)象來(lái)發(fā)射多個(gè)結(jié)果，或通過(guò)onError發(fā)送錯(cuò)誤通知

如果run()或construct()方法的執(zhí)行時(shí)間超過(guò)了命令設(shè)置的超時(shí)閥值，當(dāng)前處理線程會(huì)拋出一個(gè)TimeoutException(如果該命令不在其自身的線程中執(zhí)行，則會(huì)通過(guò)多帶帶的計(jì)時(shí)線程拋出)。在這種情況下，Hystrix會(huì)轉(zhuǎn)到fallback邏輯去處理(第8步)。同時(shí)，如果當(dāng)前命令沒(méi)有被取消或中斷，那么它最終會(huì)忽略run()或construct()方法的返回。

如果命令沒(méi)有拋出異常并返回了結(jié)果，那么Hystrix在記錄一些日志并采集監(jiān)控報(bào)告之后將該結(jié)果返回。在使用run()時(shí)，返回一個(gè)Observable，它會(huì)發(fā)射單個(gè)結(jié)果并產(chǎn)生onCompleted的結(jié)束通知，在使用construct()時(shí)，會(huì)直接返回該方法產(chǎn)生的Observable對(duì)象。

Hystrix會(huì)將成功、失敗、拒絕、超時(shí)等信息報(bào)告給斷路器，斷路器會(huì)維護(hù)一組計(jì)數(shù)器來(lái)統(tǒng)計(jì)這些數(shù)據(jù)。

斷路器會(huì)使用這些統(tǒng)計(jì)數(shù)據(jù)來(lái)決定是否要將斷路器打開(kāi)，來(lái)對(duì)某個(gè)依賴(lài)服務(wù)的請(qǐng)求進(jìn)行熔斷/短路，直到恢復(fù)期結(jié)束。若在恢復(fù)期結(jié)束后，根據(jù)統(tǒng)計(jì)數(shù)據(jù)判斷如果還是未達(dá)到健康指標(biāo)，就再次熔斷/短路。

當(dāng)命令執(zhí)行失敗時(shí)，Hystrix會(huì)進(jìn)入fallback嘗試回退處理，我們通常也稱(chēng)之為服務(wù)降級(jí)。能夠引起服務(wù)降級(jí)處理的情況主要有以下幾種:

第4步，當(dāng)前命令處于熔斷/短路狀態(tài)，斷路器是打開(kāi)的時(shí)候。

第5步，當(dāng)前命令的線程池、請(qǐng)求隊(duì)列或者信號(hào)量被占滿的時(shí)候。

第6步，HystrixObservableCommand.construct()或HystrixCommand.run()拋出異常的時(shí)候。

在服務(wù)降級(jí)邏輯中，我們需要實(shí)現(xiàn)一個(gè)通用的響應(yīng)結(jié)果，并且該結(jié)果的處理邏輯應(yīng)當(dāng)是從緩存或是根據(jù)一些靜態(tài)邏輯來(lái)獲取，而不是依賴(lài)網(wǎng)絡(luò)請(qǐng)求獲取。如果一定要在降級(jí)邏輯中包含網(wǎng)絡(luò)請(qǐng)求，那么該請(qǐng)求也必須被包裝在HystrixCommand或是HystrixObservableCommand中，從而形成級(jí)聯(lián)的降級(jí)策略，而最終的降級(jí)邏輯一定不是一個(gè)依賴(lài)網(wǎng)絡(luò)請(qǐng)求的處理，而是一個(gè)能夠穩(wěn)定返回結(jié)果的處理邏輯。

HystrixCommand和HystrixObservableCommand中實(shí)現(xiàn)降級(jí)邏輯時(shí)有以下不同:

當(dāng)使用HystrixCommand的時(shí)候，通過(guò)實(shí)現(xiàn)HystrixCommand.getFallback()來(lái)實(shí)現(xiàn)服務(wù)降級(jí)邏輯。

當(dāng)使用HystrixObservableCommand的時(shí)候，通過(guò)HystrixObservableCommand.resumeWithFallback()實(shí)現(xiàn)服務(wù)降級(jí)邏輯，該方法會(huì)返回一個(gè)Observable對(duì)象來(lái)發(fā)射一個(gè)或多個(gè)降級(jí)結(jié)果。

當(dāng)命令的降級(jí)邏輯返回結(jié)果之后，Hystrix就將該結(jié)果返回給調(diào)用者。當(dāng)使用HystrixCommand.getFallback()時(shí)候，它會(huì)返回一個(gè)Observable對(duì)象，該對(duì)象會(huì)發(fā)射getFallback()的處理結(jié)果。而使用HystrixObservableCommand.resumeWithFallback()實(shí)現(xiàn)的時(shí)候，它會(huì)將Observable對(duì)象直接返回。

如果我們沒(méi)有為命令實(shí)現(xiàn)降級(jí)邏輯或在降級(jí)處理中拋出了異常，Hystrix依然會(huì)返回一個(gè)Observable對(duì)象，但是他不會(huì)發(fā)射任何結(jié)果數(shù)據(jù)，而是通過(guò)onError方法通知命令立即中斷請(qǐng)求，并通過(guò)onError()方法將引起命令失敗的異常發(fā)送給調(diào)用者。在降級(jí)策略的實(shí)現(xiàn)中我們應(yīng)盡可能避免失敗的情況。

如果在執(zhí)行降級(jí)時(shí)發(fā)生失敗，Hystrix會(huì)根據(jù)不同的執(zhí)行方法作出不同的處理:

execute(): 拋出異常

queue(): 正常返回Future對(duì)象，但是調(diào)用get()來(lái)獲取結(jié)果時(shí)會(huì)拋出異常

observe(): 正常返回Observable對(duì)象，當(dāng)訂閱它的時(shí)候，將立即通過(guò)訂閱者的onError方法來(lái)通知中止請(qǐng)求

toObservable(): 正常返回Observable對(duì)象，當(dāng)訂閱它的時(shí)候，將通過(guò)調(diào)用訂閱者的onError方法來(lái)通知中止請(qǐng)求

當(dāng)Hystrix命令執(zhí)行成功之后，它會(huì)將處理結(jié)果直接返回或是以O(shè)bservable的形式返回。具體的返回形式取決于不同的命令執(zhí)行方式。

toObservable(): 返回原始的Observable，必須通過(guò)訂閱它才會(huì)真正觸發(fā)命令的執(zhí)行流程

observe(): 在toObservable()產(chǎn)生原始Observable之后立即訂閱它，讓命令能夠馬上開(kāi)始異步執(zhí)行，并返回一個(gè)Observable對(duì)象，當(dāng)調(diào)用它的subscribe時(shí)，將重新產(chǎn)生結(jié)果和通知給訂閱者。

queue(): 將toObservable()產(chǎn)生的原始Observable通過(guò)toBlocking()方法轉(zhuǎn)換成BlockingObservable對(duì)象，并調(diào)用它的toFuture()方法返回異步的Future對(duì)象

execute(): 在queue()產(chǎn)生異步結(jié)果Future對(duì)象之后，通過(guò)調(diào)用get()方法阻塞并等待結(jié)果的返回。

spring-cloud-example