基于nginx的代理
- 轮询算法
例如我们在nginx服务器中代理了3台服务器，再每次客户端发起请求的时候按照顺序请求挨次的发送到代理的三台服务器上。该算法比较适合每台服务器性能差不多的场景，如果部分服务器性能比较差，可能会造成性能好的服务器资源的浪费或者性能比较差的服务器遇到性能瓶颈的问题。
- 加权轮询
加权轮询在轮询的基础上根据服务器的性能差异赋予服务器不同的权值，用于调节每台服务器请求的比例。权重越高获取到请求的比例越高。例如nginx的配置
upstream my_backend {
server backend1.example.com weight=3;
server backend2.example.com weight=2;
server backend3.example.com weight=1;
}
- 最少连接算法
在访问接口的时候，由于每次请求接口的响应时间不一样，通过轮询或加权轮询的时候，每台服务器的连接数不同，负载也就不同。这个时候可以选择最少连接数的配置。配置如下:
upstream my_backend {
least_conn;
server backend1.example.com;
server backend2.example.com;
server backend3.example.com;
}
- 加权最小连接
和加权轮询一样根据每台服务器性能的不同给连接数分配权重，就是加权最小连接
- 基于IP的hash
根据请求的ip进行hash算法分发到不同的服务器，相同ip的请求转发到相同的服务器，这种适合保持会话，适用于服务器保持会话的场景。如下:
upstream my_backend {
ip_hash;
server backend1.example.com;
server backend2.example.com;
server backend3.example.com;
}
- 基于url的hash
根据请求url的hash，相同的url转发到相同的服务器。对于访问缓存或者特定的资源有一定优势。如下:
upstream my_backend {
hash $request_uri;
server backend1.example.com;
server backend2.example.com;
server backend3.example.com;
}
- 最短响应时间
最短响应时间算法，通过监测服务器的响应时间，根据响应时间最短的原则转发请求。如下:
upstream my_backend {
least_time header_response time;
server backend1.example.com;
server backend2.example.com;
server backend3.example.com;
}
- 公平策略
公平策略会根据服务器的响应时间和负载请求动态调整策略，确保每台服务器获取相同的负载。如下:
upstream my_backend {
fair;
server backend1.example.com;
server backend2.example.com;
server backend3.example.com;
}
DNS的第一层负载
在一些大型的网站，或者多机房部署的应用中我们会使用DNS作为第一层负载策略。像我之前做过的互联网广告平台，对请求响应时间要求非常高，为了解决南北方网络延迟的问题，在不同的区域部署了不同的IDC机房，请求通过域名访问后，会判断落到哪个IP响应时间短后续该ip的请求就会落到不同IP的机房中，大大减少了网络传输带来的响应时间的开销。
LVS的四层代理
LVS通过修改局域网的mac地址转发请求，只做转发请求的功能，对于局域网的性能高出nginx几个量级。
修改ip地址的策略
如下图所示:
http重定向
http冲定向是负载均衡器收到请求后返回真实服务器的地址返回给请求的浏览器地址，浏览器再次拿到新的ip进行请求。如下图: