1、Ribbon负载均衡组件部署到K8S

1.1 Ribbon是什么

Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。

简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。

1.2 能做什么?

LB,即负载均衡(Load Balance)
负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。
常见的负载均衡有软件Nginx,LVS,硬件F5等。
相应的中间件,例如:dubbo和SpringCloud中均给我们提供了负载均衡,SpringCloud的负载均衡算法可以自定义。
LB分为集中式LB和进程内LB
集中式LB
即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5, 也可以是软件,如nginx), 由该设施负责把访问请求通过某种策略转发至服务的提供方;
进程内LB
将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。
Ribbon就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址。
Ribbon在工作时分成两步
第一步先选择 EurekaServer ,它优先选择在同一个区域内负载较少的server.
第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址。

1.3 系统结构

2 Ribbon配置

2.1 创建提供者 msc-provider-8082

2.1.1 复制提供者工程 8081

复制 msc-provider-8081 工程,并重命名为 msc-provider-8082

2.1.2 修改配置文件

2.1.3 修改处理器

添加port

public class DepartServiceImpl implements DepartService {

    @Autowired
    private DepartRepository repository;

    @Value("${server.port}")
    private int port;

    @Override
    public Depart getDepartById(int id) {
        if(repository.existsById(id)){
            Depart depart = repository.getOne(id);
            depart.setName(depart.getName()+port);
            return depart;
        }
        Depart depart = new Depart();
        depart.setName("no this depart"+port);
        return depart;
    }

2.2 创建提供者 msc-provider-8083

以相同的方式创建提供者工程msc-provider-8083
测试
启动 以下工程
msc-eureka8761
msc-provider-8081
msc-provider-8082
msc-provider-8083
msc-consumer8080
查看负载方式 (默认轮询方式)

2.3更换负载均衡策略

2.3.1 内置负载均衡策略
  • RoundRobinRule
    轮询策略。Ribbon 默认采用的策略。若经过一轮轮询没有找到可用的 provider,其最多 轮询 10 轮。若最终还没有找到,则返回 null。
  • RandomRule
    随机策略,从所有可用的 provider 中随机选择一个。
  • RetryRule
    重试策略。先按照 RoundRobinRule 策略获取 provider,若获取失败,则在指定的时限内
    重试。默认的时限为 500 毫秒。
  • BestAvailableRule
    最可用策略。选择并发量最小的 provider,即连接的消费者数量最少的 provider。
  • AvailabilityFilteringRule
    可用过滤算法。该算法规则是:过滤掉处于熔断状态的 provider 与已经超过连接极限的 provider,对剩余 provider 采用轮询策略。
  • ZoneAvoidanceRule
    zone 回避策略。根据 provider 所在 zone 及 provider 的可用性,对 provider 进行选择。
  • WeightedResponseTimeRule
    “权重响应时间”策略。根据每个 provider 的平均响应时间计算其权重,响应时间越快
    权重越大,被选中的机率就越高。在刚启动时采用轮询策略。后面就会根据权重进行选择了。
2.3.2 更换内置策略

Ribbon 默认采用的是 RoundRobinRule,即轮询策略。但通过修改消费者工程的配置文
件,或修改消费者的启动类或 JavaConfig 类可以实现更换负载均衡策略的目的。

  • 创建工程
    复制 msc-consumer-8080 工程,并重命名为 msc-consumer-loadbalance-8080
  • 方式一:修改配置文件

打开官网
https://github.com/netflix/ribbon

修改配置文件,在其中添加如下内容:

#修改负载均衡策略
msc-provider: #要负载均衡的提供者的微服务名称
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
  • 方式二:修改 JavaConfig 类
    在 JavaConfig 类中添加负载 Bean 方法。

    注意:如果方式一 方式二同时设置了 方式二优先级大
2.3.3 自定义负载均衡策略

直接在 msc-consumer-loadbalance-8080 工程上修改。

  • 定义 CustomRule 类
    Ribbon 支持自定义负载均衡策略。负载均衡算法类需要实现 IRule 接口。
    该负载均衡策略的思路是:从所有可用的 provider 中排除掉指定端口号的 provider,剩余 provider进行随机选择。
package com.jd.balance;

import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.Server;
import java.util.ArrayList;
import java.util.List;
import java.util.Random;

//从所有可用的 provider 中排除掉指定端口号的 provider,剩 余 provider 进行随机选择。
public class CustomRule  implements IRule {

    private ILoadBalancer lb;

    //要排除的提供者服务器端口号
    private List<Integer> excludePorts;

    public CustomRule() {
    }

    public CustomRule(List<Integer> excludePorts) {
        this.excludePorts = excludePorts;
    }

    @Override
    public Server choose(Object key) {
        //获取所有可用的server
        List<Server> servers = lb.getReachableServers();
        //获取到排除了指定端口的所有剩余servers
        List<Server> availableServers = getAvailableServers(servers);

        //从剩余servers中随机选择servers
        return getAvailableRandomServer(availableServers);
    }

    private List<Server> getAvailableServers(List<Server> servers) {
        //若没有指定要排除的port,则返回所有server
        if(excludePorts == null || excludePorts.size() == 0){
            return servers;
        }
        //用于存放可用的server
        List<Server> aservers = new ArrayList<>();
        for (Server server : servers) {
            boolean isExclude= false;
            //将当前遍历server端口号与要排除的端口号进行对比
            for (Integer port : excludePorts) {
                if(server.getPort() == port){
                    isExclude = true;
                    break;
                }
            }
            if(!isExclude){
                aservers.add(server);
            }
        }
        return aservers;
    }

    private Server getAvailableRandomServer(List<Server> servers) {
        //获取一个【0,servers.size())的随机整数
        int index = new Random().nextInt(servers.size());
        return servers.get(index);
    }

    @Override
    public void setLoadBalancer(ILoadBalancer lb) {
        this.lb = lb;
    }

    @Override
    public ILoadBalancer getLoadBalancer() {
        return lb;
    }
}
  • 修改 JavaConfig 类
    将原来的负载均衡 Bean 方法注释掉,添加新的负载均衡策略方法。

@Configuration
public class DepartConfigure {

    @LoadBalanced
    @Bean
    public RestTemplate restTemplate(){
        return new RestTemplate();
    }

    //指定Ribbon使用随机策略
    @Bean
    public IRule loadBalanceRule(){
        //return new RandomRule();
        List<Integer> ports = new ArrayList<>();
        ports.add(8081);
        return new CustomRule(ports);
    }
}

3 K8S部署微服务Ribbon

部署方式参考部署服务提供者和服务消费者

代码下载地址:
https://github.com/coderTomato/microservicecloud.git

Logo

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐