0x01:负载均衡
Nginx的负载均衡使用upstream定义服务器组,后面跟着组名,组名后面是大括号包起来的服务器列表,每个服务器使用server开头,后面跟定义的服务器名字、服务器ip:port、参数;一个基本的upstream模块如下:
upstream [服务器组名称]{ server [IP地址]:[端口号]; server [IP地址]:[端口号]; .... }
在upstream模块定义完成后,要让指定的访问反向代理到服务器列表,格式如下:
location ~ .*$ {
index index.jsp index.html;
proxy_pass http://[服务器组名称];
}
0x02:SpringBoot项目准备
在进行Nginx负载均衡配置前,先搭建一个简单的后端应用项目:nginx-upstream
- pom.xml文文件
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<groupId>com.sentinel</groupId>
<artifactId>nginx-upstream</artifactId>
<version>0.0.1-SNAPSHOT</version>
<packaging>jar</packaging>
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.1.3.RELEASE</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<name>nginx-upstream</name>
<url>http://maven.apache.org</url>
<properties>
<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
<java.version>1.8</java.version>
</properties>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
</dependencies>
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>Greenwich.SR3</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
</project>
- 控制器controller
- application.yml配置文件
server:
port: 8866
# port: 8867
spring:
application:
name: nginx-upstream
- SpringBoot启动类
package com.olive;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
@SpringBootApplication
public class Application {
public static void main(String[] args) {
SpringApplication.run(Application.class, args);
}
}
因为只有一台电脑,为了演示Nginx负载均衡,后文会通过修改application.yml配置文件的端口和控制器controller的返回值来标识不同的应用服务器。
验证项目是否搭建成功
http://127.0.0.1:8866/getUser
http://127.0.0.1:8867/getUser
0x03:配置负载均衡
以下命令均在root用户下操作
进入Nginx的配置文件目录
cd /usr/local/nginx/conf/
- 增加upstream模块配置
upstream myserver {
server 192.168.56.1:8866;
server 192.168.56.1:8867;
}
注意在http模块添加upstream
upstream可以有多个,名称不同即可。
- 配置location转发规则
location / { #首页负载之后端服务器
proxy_pass http://myserver; #通过upstrean定义的服务器组名调用后端服务器
proxy_set_header X-Real-IP $remote_addr; #传递客户端的ip地址
}
配置完成后可以使用如下命令启动Nginx
/usr/local/nginx/sbin/nginx -c \ /usr/local/nginx/conf/nginx.conf
0x04:验证
使用命令ifconfig查下CentOS系统的ip地址
从上图可以看出CentOS和Windows的ip地址分别为
192.168.56.9 #CentOS
192.168.56.1 #Windows
访问
http://192.168.56.9/getUser
返回出现的结果是随意的,有可能访问192.168.56.1:8866,可有可能192.168.56.1:8867。
0x05: 知识扩展
这样就完成了最基本的负载均衡,但是这并不能满足实际需求。目前Nginx的upstream模块支持6种方式的负载均衡策略(算法):轮询(默认方式)、weight(权重方式)、ip_hash(依据ip分配方式)、least_conn(最少连接方式)、fair(第三方提供的响应时间方式)、url_hash(第三方通过的依据URL分配方式)。
1)轮询
最基本的配置方法,是upstream模块默认的负载均衡策略。每个请求会按时间顺序平均分配到不同的后端服务器。有如下参数:
- fail_timeout: 与max_fails结合使用
- max_fails: 在fail_timeout参数设置的时间内最大失败次数。如果在这个时间内,所有该服务器的请求都失败了,那么认为该服务器停机
- fail_time: 服务器被认为停机的时长,默认10s(被认为停机的服务器尝试间隔?)
- backup: 标记该服务器为备用服务器。当主服务器停止时,请求会被发送到它这里
- down: 标记服务器永久停机
注意:
- down标记的服务器会自动剔除;
- 缺省就是轮询;
- 此策略适合服务器配置无状态且短平块的服务使用
2)weight
权重方式,在轮询策略的基础上指定轮询的几率。也可以认为是在轮询的基础上新增了一个weight的参数,此参数指定轮询的几率,值为number。upstream模块配置模板如下:
upstream [服务器组名称]{
server [IP地址]:[端口号] weight=2;
server [IP地址]:[端口号];
....
}
在该例子中,没有weight参数的服务器默认为1,weight的数值与访问比例成正比,所有weight值的总和为一个循环单位,服务器自身的weight值为循环单位内的轮询次数。
注意:
- 权重越高分配到的请求越多;
- 此策略可以和least_conn策略、iphash策略结合使用;
- 此策略比较适合服务器硬件配置差距较大的情况。
3)ip_hash
依据ip分配方式,指定负载均衡器按照基于客户端IP的分配方式,这个方法确保了相同的客户端请求一致发送到相同的服务器,以保证session会话。这样每个访客都固定访问一个后端服务器,可以解决session不能跨服务器的问题。upstream模块配置模板如下:
upstream [服务器组名称]{
ip_hash;
server [IP地址]:[端口号] weight=2;
server [IP地址]:[端口号];
....
}
注意:
- nginx1.3.1之前的版本不能在ip_hash中使用权重(weight);
- ip_hash不能与backup同时使用;
- 此策略适合有状态服务的程序,比如session;
- 当有服务器需要剔除,必须手动down掉。
4)least_conn
最少连接方式,把请求发给链接数最少的后端服务器。轮询是把请求平均分配给各个后端,使它们的负载大致相同。但是,有些请求占用的时间很长,会导致其所在的后端负载较高。这种情况下,least_conn这种方式就可以达到更好的负载均衡效果。upstream模块配置模板如下:
upstream [服务器组名称]{
least_conn;
server [IP地址]:[端口号] weight=2;
server [IP地址]:[端口号];
....
}
注意:
- 此策略适合请求处理时间长短不一造成的服务器过载情况;
5)fair
响应时间方式,按照服务器端的响应时间来分配请求,响应时间短的优先分配。upstream模块配置模板如下:
upstream [服务器组名称]{
server [IP地址]:[端口号] weight=2;
server [IP地址]:[端口号];
....
fair;
}
注意:
- 需要安装第三方插件';
6)url_hash
url分配方式,按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,要配合缓存命中来使用。同一个资源多次请求可能会到达不同的服务器上,导致不必要的多次下载,缓存命中率不高,以及一些资源时间的浪费。而使用url_hash,可以使得同一个url(也就是同一个资源请求)会到达同一台服务器,一旦缓存住了资源,再次收到请求,就可以在缓存中读取。upstream模块配置模板如下:
upstream [服务器组名称]{
hash $request_uri;
server [IP地址]:[端口号] weight=2;
server [IP地址]:[端口号];
....
}
注意:
- 需要安装第三方插件;
- uri,是i,不是小写的L。