Spring Cloud 学习笔记(七)--Ribbon负载均衡与自定义Ribbon

mac2024-03-23  23

概述

Spring Cloud Ribbon 是基于Netflix Ribbon实现的一套客户端的负载均衡的工具。

Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项,如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(LB) 后面所有的机器,Ribbon会自动帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易通过Ribbon实现自定义的负载均衡算法。

LB,即负载均衡(Load Balancer),在微服务或分布式集群中经常用的一种应用。 负载均衡简单来说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。 常见的负载均衡有Nginx,LVS,硬件F5等。 相应的在中间件,例如:dubbo和SpringCloud中均给我们提供了负载均衡,SpringCloud的负载均衡算法可以自定义。

集中式LB:即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5,也可以是软件,如Nginx),由该设施负责把请求通过某种策略转发至服务的提供方。

进程内LB:将LB逻辑集成到消费方,消费方从注册中心获取有哪些地址可用,然后在从其中选择一个合适的服务器。Ribbon就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取服务提供方的地址。

Ribbon配置pom.xml

        <!-- Ribbon集成在Eureka客户端-->         <dependency>             <groupId>org.springframework.cloud</groupId>             <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>         </dependency>

追加注册中心集群,用于实现负载均衡

server:   port: 80   eureka:   client:     register-with-eureka: false     service-url:        defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

 

Config配置

追加@LoadBalanced注解,获取RestTemplate时加入Ribbon的配置。

import org.springframework.cloud.client.loadbalancer.LoadBalanced; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import org.springframework.web.client.RestTemplate;   @Configuration public class ConfigBean {   @Bean   @LoadBalanced   public RestTemplate getRestTemplate()   {    return new RestTemplate();   } }

至此客户端通过RestTemplate调用实例名,实现Ribbon。

 

负载均衡

Ribbon在工作时分成两步 第一步先选择 EurekaServer,它优先选择在同一个区域内负载较少的server。 第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址。 其中Ribbon提供了多种策略:比如轮询、随机和根据响应时间加权。

IRule

IRule:根据特定算法从服务中选择一个要访问的服务。

- RoundRobinRule:轮询 - RandomRule:随机 - AvailabilityFilteringRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问。 - WeightedResponseTimeRule:根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。刚启动时如果统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到WeightedResponseTimeRule。 - RetryRule:先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务。 - BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务。 - ZoneAvoidanceRule:默认规则,复合判断server所在区域的性能和server的可用性选择服务器

 

自定义Ribbon

下面实现一个自定义Ribbon的demo。

启动类修改

在启动该微服务的时候就能去加载我们的自定义Ribbon配置类,从而使配置生效,如:  

@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration=MySelfRule.class)

这个自定义配置类不能放在@ComponentScan所扫描的当前包下以及子包下,否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享,也就是说我们达不到特殊化定制的目的了。

定义自定义规则

轮询策略:每台机器要求被调用5次。

package com.demo.myrule;   import java.util.List; import java.util.Random;   import com.netflix.client.config.IClientConfig; import com.netflix.loadbalancer.AbstractLoadBalancerRule; import com.netflix.loadbalancer.ILoadBalancer; import com.netflix.loadbalancer.Server;   public class RandomRule_ZY extends AbstractLoadBalancerRule {       private int total = 0;    //总共被调用的次数,目前要求每台被调用5次     private int currentIndex = 0;//当前提供服务的机器号        public Server choose(ILoadBalancer lb, Object key) {         if (lb == null) {             return null;         }         Server server = null;           while (server == null) {             if (Thread.interrupted()) {                 return null;             }             List<Server> upList = lb.getReachableServers();             List<Server> allList = lb.getAllServers();               int serverCount = allList.size();             if (serverCount == 0) {                 /*                  * No servers. End regardless of pass, because subsequent passes                  * only get more restrictive.                  */                 return null;             }                //            int index = rand.nextInt(serverCount); //            server = upList.get(index);             if(total < 5)             {             server = upList.get(currentIndex);             total++;             }else {             total = 0;             currentIndex++;             if(currentIndex >= upList.size())             {               currentIndex = 0;             }                          }                                                      if (server == null) {                 /*                  * The only time this should happen is if the server list were                  * somehow trimmed. This is a transient condition. Retry after                  * yielding.                  */                 Thread.yield();                 continue;             }               if (server.isAlive()) {                 return (server);             }               // Shouldn't actually happen.. but must be transient or a bug.             server = null;             Thread.yield();         }           return server;       }       @Override     public Server choose(Object key) {         return choose(getLoadBalancer(), key);     }       @Override     public void initWithNiwsConfig(IClientConfig clientConfig) {         } }

修改MySelfRule

// 这个包不能被ComponentScan所扫描到 package com.demo.myrule;   import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration;   import com.netflix.loadbalancer.IRule; import com.netflix.loadbalancer.RandomRule;   @Configuration public class MySelfRule {     @Bean     public IRule myRule() {         //return new RandomRule();//Ribbon默认是轮询,我自定义为随机         return new RandomRule_ZY();//我自定义为每个机器被访问5次     } }

至此客户端实现了自定义Ribbon。

最新回复(0)