Spring Cloud Gateway限流和流量控制详解
创作时间:
作者:
@小白创作中心
Spring Cloud Gateway限流和流量控制详解
引用
CSDN
1.
https://blog.csdn.net/u010020088/article/details/143790858
限流和流量控制是API网关的重要功能，能够防止后端服务过载，确保系统在高并发和流量突增的情况下依然能够稳定运行。Spring Cloud Gateway提供了多种限流和流量控制策略，本文将详细介绍其原理和具体实现方法。
常见限流算法
漏桶算法（不推荐）
- 原理：将请求缓存到一个队列中，然后以固定的速度处理，从而达到限流的目的
- 实现：将请求装到一个桶中，桶的容量为固定的一个值，当桶装满之后，就会将请求丢弃掉，桶底部有一个洞，以固定的速率流出。
- 举例：桶的容量为1W，有10W并发请求，最多只能将1W请求放入桶中，其余请求全部丢弃，以固定的速度处理请求
- 缺点：处理突发流量效率低（处理请求的速度不变，效率很低）
令牌桶算法（推荐）
- 原理：将请求放在一个缓冲队列中，拿到令牌后才能进行处理
- 实现：装令牌的桶大小固定，当令牌装满后，则不能将令牌放入其中；每次请求都会到桶中拿取一个令牌才能放行，没有令牌时即丢弃请求/继续放入缓存队列中等待
- 举例：桶的容量为10w个，生产1w个/s，有10W的并发请求，以每秒10W个/s速度处理，随着桶中的令牌很快用完，速度又慢慢降下来啦，而生产令牌的速度趋于一致1w个/s
- 缺点：处理突发流量提供了系统性能，但是对系统造成了一定的压力，桶的大小不合理，甚至会压垮系统（处理1亿的并发请求，将桶的大小设置为1,这个系统一下就凉凉啦）
使用Spring Cloud Gateway进行限流
Spring Cloud Gateway内置了基于Redis的分布式限流器，你可以通过配置Redis限流过滤器来实现请求限流。
- 添加依赖
在pom.xml文件中添加以下依赖：
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-data-redis-reactive</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
- 配置Redis限流器
在application.yml中配置Redis限流器：
spring:
redis:
host: localhost
port: 6379
cloud:
gateway:
routes:
- id: user-service
uri: lb://USER-SERVICE
predicates:
- Path=/users/**
filters:
- name: RequestRateLimiter
args:
redis-rate-limiter:
replenishRate: 10
burstCapacity: 20
server:
port: 8080
eureka:
client:
service-url:
defaultZone: http://localhost:8761/eureka/
fetch-registry: true
register-with-eureka: true
- 配置限流键解析器
创建一个自定义限流键解析器HostAddrKeyResolver.java：
import org.springframework.cloud.gateway.filter.ratelimit.KeyResolver;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.server.ServerWebExchange;
import reactor.core.publisher.Mono;
@Configuration
public class RateLimiterConfig {
@Bean
public KeyResolver hostAddrKeyResolver() {
return exchange -> Mono.just(exchange.getRequest().getRemoteAddress().getAddress().getHostAddress());
}
}
- 配置限流策略
在application.yml中配置限流策略：
spring:
cloud:
gateway:
default-filters:
- name: RequestRateLimiter
args:
key-resolver: "#{@hostAddrKeyResolver}"
redis-rate-limiter:
replenishRate: 10
burstCapacity: 20
使用Resilience4j实现限流和熔断
Resilience4j是一个轻量级的故障处理库，支持限流、熔断、重试等功能。你可以通过集成Resilience4j来增强Spring Cloud Gateway的稳定性和容错能力。
- 添加依赖
在pom.xml文件中添加以下依赖：
<dependency>
<groupId>io.github.resilience4j</groupId>
<artifactId>resilience4j-spring-boot2</artifactId>
</dependency>
- 配置Resilience4j
在application.yml中配置Resilience4j：
spring:
cloud:
gateway:
routes:
- id: product-service
uri: lb://PRODUCT-SERVICE
predicates:
- Path=/products/**
filters:
- name: CircuitBreaker
args:
name: myCircuitBreaker
fallbackUri: forward:/fallback
resilience4j:
circuitbreaker:
instances:
myCircuitBreaker:
registerHealthIndicator: true
ringBufferSizeInClosedState: 5
ringBufferSizeInHalfOpenState: 2
waitDurationInOpenState: 10000
failureRateThreshold: 50
eventConsumerBufferSize: 10
- 创建熔断器的回退处理
创建一个回退处理控制器FallbackController.java：
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;
@RestController
public class FallbackController {
@GetMapping("/fallback")
public String fallback() {
return "This is a fallback response";
}
}
一个完整的示例
为了更好地理解上述概念，我们来看一个完整的限流和流量控制配置示例。假设我们有一个电商平台，有用户服务、订单服务和产品服务。我们需要配置Gateway来实现限流、流量控制和熔断功能。
完整的Spring Cloud Gateway配置：
spring:
application:
name: gateway-service
redis:
host: localhost
port: 6379
cloud:
gateway:
routes:
- id: user-service
uri: lb://USER-SERVICE
predicates:
- Path=/users/**
filters:
- name: RequestRateLimiter
args:
redis-rate-limiter:
replenishRate: 10
burstCapacity: 20
- id: order-service
uri: lb://ORDER-SERVICE
predicates:
- Path=/orders/**
- id: product-service
uri: lb://PRODUCT-SERVICE
predicates:
- Path=/products/**
filters:
- name: CircuitBreaker
args:
name: myCircuitBreaker
fallbackUri: forward:/fallback
default-filters:
- name: RequestRateLimiter
args:
key-resolver: "#{@hostAddrKeyResolver}"
redis-rate-limiter:
replenishRate: 10
burstCapacity: 20
server:
port: 8080
eureka:
client:
service-url:
defaultZone: http://localhost:8761/eureka/
fetch-registry: true
register-with-eureka: true
resilience4j:
circuitbreaker:
instances:
myCircuitBreaker:
registerHealthIndicator: true
ringBufferSizeInClosedState: 5
ringBufferSizeInHalfOpenState: 2
waitDurationInOpenState: 10000
failureRateThreshold: 50
eventConsumerBufferSize: 10
management:
endpoints:
web:
exposure:
include: "*"
启动和测试：
- 启动Redis服务：
docker run -d -p 6379:6379 redis
- 启动Eureka服务注册中心：
# 启动Eureka服务注册中心
java -jar eureka-server.jar
- 启动用户服务、订单服务和产品服务：
# 启动用户服务
java -jar user-service.jar
# 启动订单服务
java -jar order-service.jar
# 启动产品服务
java -jar product-service.jar
- 启动Gateway服务：
java -jar gateway-service.jar
- 测试限流和流量控制配置：
访问 http://localhost:8080/users 应该受到限流控制，每秒最多10次请求，突发请求不超过20次。
访问 http://localhost:8080/products 时，如果服务故障，会触发Resilience4j熔断器并返回回退响应。
结论
通过本文的讲解，你应该已经掌握了如何在Spring Cloud Gateway中实现限流和流量控制。我们详细介绍了如何使用Redis限流器、配置限流键解析器、自定义限流策略，以及使用Resilience4j实现限流和熔断，帮助你构建一个稳定、高可用的API网关。
热门推荐
百令胶囊的功效及副作用有哪些
南通启东：打造上海、苏南向北辐射首选城市 争当融入长三角一体化发展排头兵
兰州化物所王道爱研究员团队《AM》：基于剪切稀化效应的半固态润滑剂实现宏观超润滑
如何优化模具材料以提升耐磨性
C语言编程命名规范：从理论到实践的全面指南
全面解析面膜使用技巧，助你拥有健康亮丽肌肤的护肤指南
【深度】延迟退休，这些发达国家有怎样的现实与答案？
提升产品魅力的三大策略：从核心优势到客户体验全解析！
汉字“赵”的详细解释
地塞米松药片有哪些主要功效以及适应症
舒林酸片副作用全解析！如何安全用药？
NBA历史三分球排名 詹姆斯排名第八 哈登位列第三！他第一 您意外吗
来姨妈可以吃蒸苹果吗
美的空气能热水器P4故障码解决方案
空气能系统运行异常，如何快速诊断和修复故障？
安卓adb驱动安装指南：快速解决常见连接问题
压力管理的方式主要有哪些
对比中国和西方的消费习惯
最新指南：用于疾病预防的维生素D使用建议
到底喝热水还是喝冷水有益健康？科学告诉你真相！
木瓜树的生长环境与气候
澳大利亚父母移民：条件、流程及权益详解
如何为你的猫咪起一个独特的名字（从宠物性格到名字来源）
什么茶适合早上喝？清晨一杯，提神养护双重享受！
史上最全燃具连接软管知识！请查收
燃气灶软管安装方法超详细介绍
莓茶是什么茶叶做的？莓茶是热性还是凉性？莓茶可以天天喝吗？
一种超好吃又营养的“水中人参”，江南人正在抢“鮮”，但很多北方人没见过
江南地方特色猪肉饭
家庭装修全攻略：从规划到入住的十个关键步骤