高并发系统常用三板斧来保护系统:缓存降级限流,API网关作为所有请求的入口,请求量大,可以通过对并发访问的请求进行限速来保护系统的可用性。

高并发API网关,Spring Cloud Gateway 之限流操作

 

常用的限流算法比如有令牌桶算法,漏桶算法,计数器算法等,在Zuul中我们可以自己去实现限流的功能,Spring Cloud Gateway的出现本身就是用来替代Zuul的,要想替代那肯定得有强大的功能,除了性能上的优势之外,Spring Cloud Gateway还提供了很多新功能,比如限流操作,使用起来非常简单。

高并发API网关,Spring Cloud Gateway 之限流操作

 

目前限流提供了基于Redis的实现,首先引入依赖,

 <dependency>
 <groupId>org.springframework.boot</groupId>
 <artifactId>spring-boot-starter-data-redis-reactive</artifactId>
</dependency>

然后就可以以通过KeyResolver来指定限流的Key,比如我们需要根据用户来做限流,IP来做限流等等。

一、IP限流

通过exchange对象可以获取到请求信息,这边用了HostName。

@Bean
KeyResolver userKeyResolver() {
	return exchange -> Mono.just(exchange.getRequest().getQueryParams().getFirst("userId"));
}

二、用户限流

通过exchange对象可以获取到请求信息,获取当前请求的用户ID或者用户名,使用这种方式限流,请求路径中必须携带userId参数。

@Bean
KeyResolver userKeyResolver() {
	return exchange -> Mono.just(exchange.getRequest().getQueryParams().getFirst("userId"));
}

三、接口限流

获取请求地址的uri作为限流key。

@Bean
KeyResolver apiKeyResolver() {
	return exchange -> Mono.just(exchange.getRequest().getPath().value());
}

四、配置过滤器

高并发API网关,Spring Cloud Gateway 之限流操作

 

  • filter名称必须是RequestRateLimiter
  • redis-rate-limiter.replenishRate:允许用户每秒处理多少个请求
  • redis-rate-limiter.burstCapacity:令牌桶的容量,允许在一秒钟内完成的最大请求数
  • key-resolver:使用SpEL按名称引用bean

高并发API网关,Spring Cloud Gateway 之限流操作

 

配置好后就可以进行限流测试了,注意观察redis中的数据。

Logo

权威|前沿|技术|干货|国内首个API全生命周期开发者社区

更多推荐