Nginx负载均衡

Nginx负载均衡能够将客户端请求，分发到多个后端服务器（比如：应用1、应用2...应用N服务器），从而分散负载，提升应用的可用性、和性能。

如下图所示：

Nginx负载均衡，通过横向扩展，不仅可以添加、或移除后端服务器，以应对流量变化，实现动态扩展。

除此之外，负载均衡器可以作为系统的第一道防线，通过过滤和分发流量，帮助防御攻击...等等。

还可以，通过将请求分发到多个服务器上，从而，避免了Nginx 单点故障，还可以提高了系统的可靠性、和可用性。

Nginx负载均衡算法

Nginx 提供了多种“负载均衡算法”，经常使用的包括：随机、轮询、权重...等模式，下面我分别来详解原理与使用@mikechen

1、轮循(默认)

这是默认的Nginx负载均衡算法，Nginx 将请求按顺序轮流分配给每个后端服务器，如下图所示：

轮询算法的工作原理非常简单：

负载均衡器维护一个后端服务器列表，并在其中循环遍历；
每当有新的请求到来时，负载均衡器按顺序选择列表中的下一个服务器进行分发；
当遍历到列表的末尾时，重新回到列表的起点，继续按顺序分配请求。

配置轮询算法非常简单，只需要在配置文件中定义上游服务器列表即可。

如下所示：

http {
    upstream myapp {
        server backend1.example.com;
        server backend2.example.com;
        server backend3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

轮询：适用于大多数基本负载均衡需求，但是，当应用场景复杂，需要考虑服务器负载时，可以选择，比如：加权轮询、最少连接数等。

2.加权轮询

加权轮询是一种改进的轮询算法，主要作用是：根据后端服务器的处理能力（权重）来分配请求。

如下图所示：

加权轮询的工作原理如下：

每个后端服务器分配一个权重值（weight），权重值越高，服务器处理的请求数量越多；

例如：权重值为“3”的服务器，接收到的请求次数，将是权重值为1的服务器的三倍。

配置如下：

http {
    upstream myapp {
        server backend1.example.com weight=3;
        server backend2.example.com weight=2;
        server backend3.example.com weight=1;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

具体来说，backend1.example.com 接收到的请求数量，将是 backend3.example.com 的三倍。

这种算法适用于：后端服务器性能不一致的情况。

通过加权分配，使得处理能力更强的服务器承担更多的请求，从而优化整体系统性能、和资源利用。

3.ip_hash模式

IP哈希负载均衡算法，主要作用是：基于客户端IP地址的哈希值将请求分配给后端服务器。

如下图所示：

此算法的主要优点在于：它能够实现会话保持（Session Persistence），即确保来自同一客户端的所有请求，都分配到同一个后端服务器。

这种方式保证了会话的连续性，即同一客户端的所有请求，都能访问同一个后端服务器。

配置，如下所示：

http {
    upstream myapp {
        ip_hash;
        server backend1.example.com;
        server backend2.example.com;
        server backend3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

这种方式，适用于：需要保持用户状态、或会话信息的一些应用，比如：购物车、支付...等。

但是也要注意：如果某台服务器宕机，负载均衡器需要重新计算哈希值，将请求分配到其他服务器，因此，健康检查机制非常重要。

4、最少连接

最少连接数（Least Connections），主要作用是：将新的请求分配给当前活动连接数最少的后端服务器。

如下图所示：

配置如下：

http {
    upstream myapp {
        least_conn;
        server backend1.example.com;
        server backend2.example.com;
        server backend3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}

最少连接数算法：能够有效避免某些服务器过载。

能够根据实际负载情况动态调整请求分配，适用于请求处理时间不一致的场景。

本篇已收于mikechen原创超30万字《阿里架构师进阶专题合集》里面。