摘要：歡迎訪問我的歡迎訪問我的內(nèi)容所有原創(chuàng)文章分類匯總及配套源碼，涉及等本篇概覽本篇概覽本文是實戰(zhàn)系列的第八篇，經(jīng)過前面的學(xué)習(xí)，咱們對過濾器已了解得差不多，今天來補全過濾器的最后一個版塊限流默認(rèn)的限流器是基于實現(xiàn)的，限流算法是大家熟悉的令牌桶關(guān)于

歡迎訪問我的GitHub

https://github.com/zq2599/blog_demos

內(nèi)容：所有原創(chuàng)文章分類匯總及配套源碼，涉及Java、Docker、Kubernetes、DevOPS等；

本篇概覽

• 本文是《Spring Cloud Gateway實戰(zhàn)》系列的第八篇，經(jīng)過前面的學(xué)習(xí)，咱們對過濾器已了解得差不多，今天來補全過濾器的最后一個版塊：限流（RequestRateLimiter ）

• 默認(rèn)的限流器是基于redis實現(xiàn)的，限流算法是大家熟悉的令牌桶（Token Bucket Algorithm）,關(guān)于令牌捅的原理就不在此展開了，聰明的您看一眼下圖應(yīng)該就懂了：裝令牌的桶容量有限，例如最多20個，令牌進入桶的速度恒定（注意，這里是和漏桶算法的區(qū)別），例如每秒10個，底部每個請求能拿到令牌才會被處理：

RequestRateLimiter基本套路

• 使用RequestRateLimiter過濾器的步驟非常簡單：

1. 準(zhǔn)備可用的redis
2. maven或者gradle中添加依賴org.springframework.boot:spring-boot-starter-data-redis-reactive
3. 確定按照什么維度限流，例如按照請求中的username參數(shù)限流，這是通過編寫KeyResolver接口的實現(xiàn)來完成的
4. 配置application.yml文件，添加過濾器

• 以上就是使用RequestRateLimiter過濾器的套路了，簡單么？接下來，咱們先編碼再驗證

源碼下載

• 本篇實戰(zhàn)中的完整源碼可在GitHub下載到，地址和鏈接信息如下表所示(https://github.com/zq2599/blog_demos)：

• 這個git項目中有多個文件夾，本篇的源碼在spring-cloud-tutorials文件夾下，如下圖紅框所示：

• spring-cloud-tutorials文件夾下有多個子工程，本篇的代碼是gateway-requestratelimiter，如下圖紅框所示：

準(zhǔn)備工作

• 為了更好的演示Gateway的效果，在服務(wù)提供者provider-hello的代碼（Hello.java）中新增一個web接口，可以接受一個入?yún)ⅲ?/li>

    @GetMapping("/userinfo")    public String userInfo(@RequestParam("username") String username) {        return Constants.HELLO_PREFIX + " " + username + ", " + dateStr();    }

• 后面的測試咱們就用上述接口；

編碼

• 在父工程spring-cloud-tutorials之下新增子工程gateway-requestratelimiter，其pom.xml內(nèi)容如下，重點是org.springframework.boot:spring-boot-starter-data-redis-reactive：

            spring-cloud-tutorials        com.bolingcavalry        1.0-SNAPSHOT        4.0.0    gateway-requestratelimiter                        com.bolingcavalry            common            ${project.version}                            org.springframework.cloud            spring-cloud-starter-gateway                            org.springframework.boot            spring-boot-starter-data-redis-reactive            

• 配置文件application.yml，請注意RequestRateLimiter的幾個參數(shù)，已經(jīng)用中文添加了詳細(xì)的注釋：

server:  #服務(wù)端口  port: 8081spring:  application:    name: circuitbreaker-gateway  # redis配置  redis:    host: 192.168.50.43    port: 6379  cloud:    gateway:      routes:        - id: path_route          uri: http://127.0.0.1:8082          predicates:            - Path=/hello/**          filters:            - name: RequestRateLimiter              args:              	# 令牌入桶的速度為每秒100個，相當(dāng)于QPS                redis-rate-limiter.replenishRate: 100                # 桶內(nèi)能裝200個令牌，相當(dāng)于峰值，要注意的是：第一秒從桶內(nèi)能去200個，但是第二秒只能取到100個了，因為入桶速度是每秒100個                redis-rate-limiter.burstCapacity: 200                # 每個請求需要的令牌數(shù)                redis-rate-limiter.requestedTokens: 1

• 指定限流維度的代碼CustomizeConfig.java，這里是根據(jù)請求參數(shù)username的值來限流的，假設(shè)真實請求中一半請求的username的等于Tom，另一半的username的等于Jerry，按照application.yml的配置，Tom的請求QPS為10，Jerry的QPS也是10：

package com.bolingcavalry.gateway.config;import org.springframework.cloud.gateway.filter.ratelimit.KeyResolver;import org.springframework.context.annotation.Bean;import org.springframework.context.annotation.Configuration;import reactor.core.publisher.Mono;import java.util.Objects;@Configurationpublic class CustomizeConfig {    @Bean    KeyResolver userKeyResolver() {        return exchange -> Mono.just(exchange.getRequest().getQueryParams().getFirst("username"));    }}

• 毫無營養(yǎng)的啟動類RequestRateLimiterApplication.java：

package com.bolingcavalry.gateway;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;@SpringBootApplicationpublic class RequestRateLimiterApplication {    public static void main(String[] args) {        SpringApplication.run(RequestRateLimiterApplication.class,args);    }}

• 代碼寫完了，接下來開始驗證；

驗證（桶容量等于入桶速度）

• 首先驗證的是桶容量等于入桶速度時的效果，請修改gateway-requestratelimiter應(yīng)用的application.yml中文件，使得redis-rate-limiter.replenishRate和redis-rate-limiter.burstCapacity的值都等于100，也就是說桶的大小等于100，每秒放入的令牌數(shù)也是100

• 確保redis已經(jīng)啟動，并且與application.yml中的配置保持一直

• 啟動nacos（provider-hello依賴）

• 啟動服務(wù)提供者provider-hello

• 啟動gateway-requestratelimiter

• 為了模擬web請求，我這里使用了Apache Benchmark，windows版本的下載地址：
  https://www.apachelounge.com/download/VS16/binaries/httpd-2.4.48-win64-VS16.zip

• 上述文件下載解壓后即可使用，在控制臺進入Apache24/bin后執(zhí)行以下命令，意思是向指定地址發(fā)送10000個請求，并發(fā)數(shù)為2：

ab -n 10000  -c 2 http://localhost:8081/hello/userinfo?username=Tom

• 控制臺輸出如下，可見不到八秒的時間，只成功了800個，證明限流符合預(yù)期：

驗證（桶容量大于入桶速度）

• 接下來試試桶容量大于入桶速度時的限流效果，這對于我們控制峰值響應(yīng)有很重要的參考價值

• 請修改gateway-requestratelimiter應(yīng)用的application.yml中文件，redis-rate-limiter.replenishRate維持100不變，但是redis-rate-limiter.burstCapacity改成200，也就是說每秒放入的令牌數(shù)還是100，但桶的容量翻倍了

• 重啟應(yīng)用gateway-requestratelimiter

• 再次執(zhí)行以下命令，意思是向指定地址發(fā)送10000個請求，并發(fā)數(shù)為2：

ab -n 10000  -c 2 http://localhost:8081/hello/userinfo?username=Tom

• 測試結(jié)果如下圖，可見符合預(yù)期，可以將桶內(nèi)令牌全部用掉，以支撐峰值超過QPS的場景：

驗證（根據(jù)username的維度限流）

• 接下來驗證限流的維度，究竟是不是按照請求參數(shù)username的值來限流的

• 咱們打開兩個命令行，同時發(fā)送請求（動作要快），第一個的username等于Tom，第二個等于Jerry，理論上推測，如果都是8秒內(nèi)完成，那么每個命令都有900個請求能成功

• 測試結(jié)果如下圖，可見符合預(yù)期，每個username用的是自己的令牌：

• 至此，Spring Cloud Gateway限流實戰(zhàn)已經(jīng)完成，如此簡單易用的限流方案，希望能給您的學(xué)習(xí)和使用帶來參考

你不孤單，欣宸原創(chuàng)一路相伴

1. Java系列
2. Spring系列
3. Docker系列
4. kubernetes系列
5. 數(shù)據(jù)庫+中間件系列
6. DevOps系列

歡迎關(guān)注公眾號：程序員欣宸

微信搜索「程序員欣宸」，我是欣宸，期待與您一同暢游Java世界...
https://github.com/zq2599/blog_demos