背景

我想，大家平时接触最多的app就是淘宝、京东了吧！这些大的电商网站，每天处理的访问量都是亿级的。如果，不对系统中的各个接口进行保护，当并发访问量大时，系统就会发生故障。

所以，保护好系统，就会用到缓存、降级和限流这三把利器。前面讲过了断路器Hystrix的熔断与降级；缓存可以使用内存里面的缓存队列、消息中间件、分布式缓存；限流可以使用Zuul来实现。通过限流，可以很好地控制系统的qps。

每秒查询率QPS是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。

服务限流

方法一：Zuul+RateLimiter

RateLimiter是Guava提供的基于令牌桶算法的实现类，可以非常简单的完成限流特技，并且根据系统的实际情况来调整生成token的速率。

至于令牌桶算法的基本流程，大家可以通过查询相关资料进行学习。给大家推荐一个讲解令牌桶算法的视频，个人觉得易于理解。https://www.bilibili.com/video/av26168532/ ，接下来，就用代码的方式来实现Zuul的限流。

要用RateLimiter，需要导入相应的约束，所以，就对上篇博文中的网关服务(api-gateway)进行改造，pom中增加约束。

 

  1.  
    <dependency>
     
  2.  
        <groupId>com.marcosbarbero.cloud</groupId>
     
  3.  
        <artifactId>spring-cloud-zuul-ratelimit</artifactId>
     
  4.  
        <version>2.1.0.RELEASE</version>
     
  5.  
    </dependency>
     
  6.  
    <!--redis-->
     
  7.  
    <dependency>
     
  8.  
        <groupId>org.springframework.boot</groupId>
     
  9.  
        <artifactId>spring-boot-starter-data-redis</artifactId>
     
  10.  
    </dependency>
     
 

注意，这里需要用到Redis，所以也需要把Redis的约束导入。然后在yml中添加相应的配置。
 

 

  1.  
    ratelimit:
     
  2.  
        enabled: true
     
  3.  
        default-policy:
     
  4.  
          limit: 10
     
  5.  
          quota: 4
     
  6.  
          refresh-interval: 5
     
  7.  
          type: #可选 限流方式
     
  8.  
            - url
     
 

  •  
    ratelimit.enabled=true表示开启限流策略。
     
  •  
    ratelimit.default-policy.limit=10 表示请求控制在10次以内。
     
  •  
    ratelimit.default-policy.quota=4 请求时间不得超过4秒。
     
  •  
    ratelimit.default-policy.refresh-interval=5 刷新间隔是5秒。
     
 

综上所述：所有服务在5秒内只能有10次请求，并且请求的时间总和不得超过4秒。
 

配置完成，接下来，启动服务，进行测试。
 

9488cd2c726dba508b3f8fdcaede8cb6.png
 

可以看到，在启动网关服务的时候，出现了异常。上面指出zuul.ratelimit.repository这个配置，不能为空。相信大家对repository这个词并不陌生。我们原来在学Mybatis、JPA、Hibernate的时候经常看到。
 

所以，这个错误就是提示我们，需要某种仓库存储限流数据。通过点击配置文件，查看源码。
 

 

  1.  
    /*
     
  2.  
     * Copyright 2012-2018 the original author or authors.
     
  3.  
     *
     
  4.  
     * Licensed under the Apache License, Version 2.0 (the "License");
     
  5.  
     * you may not use this file except in compliance with the License.
     
  6.  
     * You may obtain a copy of the License at
     
  7.  
     *
     
  8.  
     *      http://www.apache.org/licenses/LICENSE-2.0
     
  9.  
     *
     
  10.  
     * Unless required by applicable law or agreed to in writing, software
     
  11.  
     * distributed under the License is distributed on an "AS IS" BASIS,
     
  12.  
     * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
     
  13.  
     * See the License for the specific language governing permissions and
     
  14.  
     * limitations under the License.
     
  15.  
     */
     
  17.  
    package com.marcosbarbero.cloud.autoconfigure.zuul.ratelimit.config.properties;
     
  19.  
    public enum RateLimitRepository {
     
  20.  
        /**
     
  21.  
         * Uses Redis as data storage
     
  22.  
         */
     
  23.  
        REDIS,
     
  25.  
        /**
     
  26.  
         * Uses Consul as data storage
     
  27.  
         */
     
  28.  
        CONSUL,
     
  30.  
        /**
     
  31.  
         * Uses SQL database as data storage
     
  32.  
         */
     
  33.  
        JPA,
     
  35.  
        /**
     
  36.  
         * Uses Bucket4j JCache as data storage
     
  37.  
         */
     
  38.  
        BUCKET4J_JCACHE,
     
  40.  
        /**
     
  41.  
         * Uses Bucket4j Hazelcast as data storage
     
  42.  
         */
     
  43.  
        BUCKET4J_HAZELCAST,
     
  45.  
        /**
     
  46.  
         * Uses Bucket4j Ignite as data storage
     
  47.  
         */
     
  48.  
        BUCKET4J_IGNITE,
     
  50.  
        /**
     
  51.  
         * Uses Bucket4j Infinispan as data storage
     
  52.  
         */
     
  53.  
        BUCKET4J_INFINISPAN,
     
  54.  
    }
     
 

可以看到这是一个枚举类。其中，较为熟悉的就是REDIS、CONSUL、JPA。这里，就选择REDIS作为限流数据的存储。这就是pom文件中导入REDIS的原因。重新修改配置文件
 

 

  1.  
    ratelimit:
     
  2.  
      enabled: true
     
  3.  
      repository: REDIS  #对应存储类型（用来存储统计信息）
     
  4.  
      behind-proxy: true  #代理之后
     
  5.  
      default-policy: #可选 - 针对所有的路由配置的策略，除非特别配置了policies
     
  6.  
        limit: 10 #可选 - 每个刷新时间窗口对应的请求数量限制
     
  7.  
        quota: 4 #可选-  每个刷新时间窗口对应的请求时间限制（秒）
     
  8.  
        refresh-interval: 5 # 刷新时间窗口的时间，默认值 (秒)
     
  9.  
        type: #可选 限流方式
     
  10.  
          - url
     
 

服务正常启动，接下来进行测试。学习资料：Java进阶视频资源
 

上面限制5秒之内只能发送10次请求，那就发送11次请求试一试。使用postman工具进行请求的发送。同时，教大家如何使用postman批量发送请求。
 

bc9e99634d1eeb7ab665cd9f92346870.png
 

首先，在地址栏填写接口地址，然后，可以点击send，测试当前地址是否正确。如果一切正常，点击旁边的save按钮。
 

4b5e47c18b45da1ab93da5b51fc541b3.png
 

出现上面的浮层，按照箭头的标注，进行操作，点击save按钮后，在左边就能看到已经保存的请求了。
 

bb4f3787b2b4140e84b7e507abcb00a5.png
 

然后点击图示的run按钮，进入下面的界面。
 

92a61b3d7df5dcc4494ee3c4474868e3.png
 

按照文中给出的注释，进行设定，这里我就改一下请求的次数，设置为11次。然后点击run按钮发起请求，看测试结果。
 

653bab452e5acc9141f2748068cd6d04.png
 

可以看到，配置文件中规定请求次数为10次，测试前10次请求都是正常的响应。而第11次请求就被限流策略阻止了。证明了配置生效，接口限流成功。学习资料：Java进阶视频资源
 

方法二：过滤器限流
 

Zuul的过滤器功能，不仅可以做权限验证，也可以拿来做限流。所以，新建一个过滤器，让其继承ZuulFilter
 

 

  1.  
    package com.root.project.apigateway.filter;
     
  3.  
    import com.google.common.util.concurrent.RateLimiter;
     
  4.  
    import com.netflix.zuul.ZuulFilter;
     
  5.  
    import com.netflix.zuul.context.RequestContext;
     
  6.  
    import com.netflix.zuul.exception.ZuulException;
     
  7.  
    import org.springframework.http.HttpStatus;
     
  8.  
    import org.springframework.stereotype.Component;
     
  10.  
    import javax.servlet.http.HttpServletRequest;
     
  11.  
    import javax.servlet.http.HttpServletResponse;
     
  12.  
    import java.io.IOException;
     
  14.  
    import static org.springframework.cloud.netflix.zuul.filters.support.FilterConstants.PRE_TYPE;
     
  16.  
    /**
     
  17.  
     * @ClassName: InterfaceLimitFilter
     
  18.  
     * @Author: 清风一阵吹我心
     
  19.  
     * @Description: TODO
     
  20.  
     * @Version 1.0
     
  21.  
     **/
     
  22.  
    @Component
     
  23.  
    public class InterfaceLimitFilter extends ZuulFilter {
     
  25.  
     //每秒产生10个令牌
     
  26.  
        private static final RateLimiter RATE_LIMITER = RateLimiter.create(10);
     
  28.  
        @Override
     
  29.  
        public String filterType() {
     
  30.  
            return PRE_TYPE;
     
  31.  
        }
     
  33.  
        @Override
     
  34.  
        public int filterOrder() {
     
  35.  
            return -10;
     
  36.  
        }
     
  38.  
        @Override
     
  39.  
        public boolean shouldFilter() {
     
  40.  
            RequestContext context = RequestContext.getCurrentContext();
     
  41.  
            HttpServletRequest request = context.getRequest();
     
  42.  
            //只对管理员服务限流
     
  43.  
            String admin = "/api/admin/v1.0/admin";
     
  44.  
            return admin.equalsIgnoreCase(request.getRequestURI());
     
  45.  
        }
     
  47.  
        /**
     
  48.  
         * 限流逻辑
     
  49.  
         * RATE_LIMITER.tryAcquire()尝试获取令牌
     
  50.  
         * @return
     
  51.  
         * @throws ZuulException
     
  52.  
         */
     
  53.  
        @Override
     
  54.  
        public Object run() throws ZuulException {
     
  55.  
            RequestContext context = RequestContext.getCurrentContext();
     
  56.  
            //每调用一次tryAcquire()方法，令牌数量减1
     
  57.  
            if (!RATE_LIMITER.tryAcquire()) {
     
  58.  
                context.setSendZuulResponse(false);
     
  59.  
                context.setResponseStatusCode(HttpStatus.TOO_MANY_REQUESTS.value());
     
  61.  
                HttpServletResponse response = context.getResponse();
     
  62.  
                try {
     
  63.  
                    response.setContentType("text/html;charset=UTF-8");
     
  64.  
                    response.getWriter().write("访问上限,限流啦");
     
  65.  
                } catch (IOException e) {
     
  66.  
                    e.printStackTrace();
     
  67.  
                }
     
  68.  
            }
     
  69.  
            return null;
     
  70.  
        }
     
  71.  
    }
     
 

因为Guava是基于令牌桶算法的实现类，所以RateLimiter.create(10)可以理解为：每秒往桶里放入10个令牌。RATE_LIMITER.tryAcquire()方法尝试获取桶里的令牌，如果有，则返回true，并且，总的令牌数减1。没有则返回false。后面的逻辑和权限验证相似。设置Htpp状态码，然后返回信息到前台展示。
 

 
 
注意：在类上还要加入@Component注解，将其注入到IOC容器中。
 

 

启动服务，进行测试。使用postman发送20个请求。
 

30c407cf1d907cfca9edd8909a9dda5f.png
 

奇怪的事情发生了，可以看到第十八个请求被限流了，但是第十九个请求又成功了。其实这也不难理解，当第十八个请求到达网关时，木桶里已经没有令牌可以获取了。所以，直接被限流策略限制。
 

其实，除了网关层的限流，还能在Nginx层上做限流。感兴趣的朋友，可以去看一下Nginx方面的知识。一个高性能的HTTP和反向代理服务器，作为一名开发人员，了解和使用它，也是必不可少的。
 
  

        # spring cloud
      
  
 
 Logo 
向您推荐>>Eolink开发者社区
 
权威｜前沿｜技术｜干货｜国内首个API全生命周期开发者社区
 
 
  
更多推荐
  
 
深入理解 Mocha 测试框架：从零实现一个 Mocha
 
前言什么是自动化测试自动化测试在很多团队中都是Devops环节中很难执行起来的一个环节，主要原因在于测试代码的编写工作很难抽象，99%的场景都需要和业务强绑定，而且写测试代码的编写工作量往往比编写实际业务代码的工作量更多。在一些很多业务场景中投入产出比很低，适合写自动化测试的应该是那些中长期业务以及一些诸如组件一样的基础库。自动化测试是个比较大的概念，其中分类也比较多，比如单元测试，端对端测试，集
 
avatar 云原生
 
 
ELK实现containerd的容器日志采集展示【基于logging的全栈监测】
 
企业级ELK Stack构建介绍
 
avatar 云原生
 
 
(20200916 Solved)docker-compose up创建容器自动退出
 
问题描述如题，创建容器后自动退出了。并且docker start container无效解决方案原因是缺失了控制终端的配置，需要在docker-compose.yml中增加tty:true ，有时候这样也不行，需要再增加一个command:/bin/bash，命令不一定是这个，需要是一个不会退出的命令，然后用-d后台启动容器。Referencesdocker-compose启动容器后自动退出...
 
avatar 云原生