一、負(fù)載均衡
負(fù)載均衡（Load Balance）： 建立在現(xiàn)有網(wǎng)絡(luò)結(jié)構(gòu)之上，它提供了一種廉價(jià)有效透明的方法擴(kuò)展網(wǎng)絡(luò)設(shè)備和服務(wù)器的帶寬、增加吞吐量、加強(qiáng)網(wǎng)絡(luò)數(shù)據(jù)處理能力、提高網(wǎng)絡(luò)的靈活性和可用性。其意思就是分?jǐn)偟蕉鄠€(gè)操作單元上進(jìn)行執(zhí)行，例如Web服務(wù)器、FTP服務(wù)器、企業(yè)關(guān)鍵應(yīng)用服務(wù)器和其它關(guān)鍵任務(wù)服務(wù)器等，從而共同完成工作任務(wù)。
1、服務(wù)端負(fù)載均衡：客戶端請(qǐng)求到負(fù)載均衡服務(wù)器，負(fù)載均衡服務(wù)器根據(jù)自身的算法將該請(qǐng)求轉(zhuǎn)給某臺(tái)真正提供業(yè)務(wù)的服務(wù)器，該服務(wù)器將響應(yīng)數(shù)據(jù)給負(fù)載均衡服務(wù)器，負(fù)載均衡服務(wù)器最后將數(shù)據(jù)返回給客服端。（nginx）
2、客服端負(fù)載均衡：基于客戶端的負(fù)載均衡，簡(jiǎn)單的說(shuō)就是在客戶端程序里面，自己設(shè)定一個(gè)調(diào)度算法，在向服務(wù)器發(fā)起請(qǐng)求的時(shí)候，先執(zhí)行調(diào)度算法計(jì)算出向哪臺(tái)服務(wù)器發(fā)起請(qǐng)求，然后再發(fā)起請(qǐng)求給服務(wù)器。
基于客戶端負(fù)載均衡的特點(diǎn)：
由客戶端內(nèi)部程序?qū)崿F(xiàn)，不需要額外的負(fù)載均衡器軟硬件投入。
程序內(nèi)部需要解決業(yè)務(wù)服務(wù)器不可用的問(wèn)題，服務(wù)器故障對(duì)應(yīng)用程序的透明度小。
程序內(nèi)部需要解決業(yè)務(wù)服務(wù)器壓力過(guò)載的問(wèn)題。
二、Ribbon實(shí)現(xiàn)客戶端的負(fù)載均衡
我們使用spring boot 來(lái)測(cè)試。
pom文件：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
|
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <groupId>com.jalja.org</groupId> <artifactId>spring-consumer-server-ribbon</artifactId> <version>0.0.1-SNAPSHOT</version> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>1.5.2.RELEASE</version> </parent> <properties> <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding> <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding> <java.version>1.8</java.version> </properties> <dependencyManagement> <dependencies> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-dependencies</artifactId> <version>Camden.SR4</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement> <dependencies> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-ribbon</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> </dependencies> </project> |
application.yml
|
1
2
3
|
stores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.com |
Ribbon的負(fù)載均衡策略
1、RoundRobinRule(輪詢模式)
public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式輪詢選擇server 輪詢index，選擇index對(duì)應(yīng)位置的server 該策略也是ribbon的默認(rèn)策略
SpringCloudRibbonApplication.java
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
|
@SpringBootApplication@EnableDiscoveryClient@RestControllerpublic class SpringCloudRibbonApplication { public static void main(String[] args) { SpringApplication.run(SpringCloudRibbonApplication.class, args); } @Autowired private LoadBalancerClient loadBalancer; @RequestMapping(value="static") public String staticRibbon(){ ServiceInstance instance = loadBalancer.choose("stores"); URI storesUri = URI.create(String.format("http://%s:%s", instance.getHost(), instance.getPort())); System.out.println(storesUri); return "static"; }}連續(xù)請(qǐng)求6次執(zhí)行結(jié)果：http://www.baidu.com:80http://www.jalja.org:80http://www.163.org:80http://www.baidu.com:80http://www.jalja.org:80http://www.163.org:80 |
2、RandomRule(隨機(jī)策略)
public class RandomRule extends AbstractLoadBalancerRule 隨機(jī)選擇一個(gè)server 在index上隨機(jī)，選擇index對(duì)應(yīng)位置的server。
在配置文件application.yml加入
|
1
2
3
4
5
6
|
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRulestores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.org #隨機(jī) NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule |
在SpringCloudRibbonApplication.java 中加入
|
1
2
3
4
|
@Bean public IRule ribbonRule() { return new RandomRule();//這里配置策略，和配置文件對(duì)應(yīng) } |
執(zhí)行6次的結(jié)果：
|
1
2
3
4
5
6
|
http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.163.org:80http://www.baidu.com:80http://www.jalja.org:80 |
3、BestAvailableRule（并發(fā)量）
public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 選擇一個(gè)最小的并發(fā)請(qǐng)求的server 逐個(gè)考察Server，如果Server被tripped了，則忽略，在選擇其中ActiveRequestsCount最小的server
在配置文件application.yml加入
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule
在SpringCloudRibbonApplication.java 中加入
|
1
2
3
4
|
@Bean public IRule ribbonRule() { return new BestAvailableRule();//這里配置策略，和配置文件對(duì)應(yīng) } |
執(zhí)行6次的結(jié)果：
|
1
2
3
4
5
6
|
http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80http://www.baidu.com:80 |
4、AvailabilityFilteringRule(服務(wù)器狀態(tài))
public class AvailabilityFilteringRule extends PredicateBasedRule 過(guò)濾掉那些因?yàn)橐恢边B接失敗的被標(biāo)記為circuit tripped的后端server，并過(guò)濾掉那些高并發(fā)的的后端server（active connections 超過(guò)配置的閾值） 使用一個(gè)AvailabilityPredicate來(lái)包含過(guò)濾server的邏輯，其實(shí)就就是檢查status里記錄的各個(gè)server的運(yùn)行狀態(tài)
5、WeightedResponseTimeRule（根據(jù)響應(yīng)時(shí)間）
public class WeightedResponseTimeRule extends RoundRobinRule 根據(jù)響應(yīng)時(shí)間分配一個(gè)weight，相應(yīng)時(shí)間越長(zhǎng)，weight越小，被選中的可能性越低。 一個(gè)后臺(tái)線程定期的從status里面讀取評(píng)價(jià)響應(yīng)時(shí)間，為每個(gè)server計(jì)算一個(gè)weight。Weight的計(jì)算也比較簡(jiǎn)單responsetime 減去每個(gè)server自己平均的responsetime是server的權(quán)重。當(dāng)剛開(kāi)始運(yùn)行，沒(méi)有形成statas時(shí)，使用roubine策略選擇server。
6、RetryRule(根據(jù)策略+重試)
public class RetryRule extends AbstractLoadBalancerRule 對(duì)選定的負(fù)載均衡策略機(jī)上重試機(jī)制。
在一個(gè)配置時(shí)間段內(nèi)當(dāng)選擇server不成功，則一直嘗試使用subRule的方式選擇一個(gè)可用的server
7、ZoneAvoidanceRule（Zone狀態(tài)+服務(wù)狀態(tài)）
public class ZoneAvoidanceRule extends PredicateBasedRule
復(fù)合判斷server所在區(qū)域的性能和server的可用性選擇server
使用ZoneAvoidancePredicate和AvailabilityPredicate來(lái)判斷是否選擇某個(gè)server，前一個(gè)判斷判定一個(gè)zone的運(yùn)行性能是否可用，剔除不可用的zone（的所有server），AvailabilityPredicate用于過(guò)濾掉連接數(shù)過(guò)多的Server。
4、5、6、7這些策略使用方式與上述方式相同這里不在演示
以上這篇spring cloud 之 客戶端負(fù)載均衡Ribbon深入理解就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持服務(wù)器之家。
