Nginx百万并发性能如何实现?

在大型互联网架构处理高并发至关重要，下面我就重点详解Nginx如何实现百万并发性能的关键技术@mikechen

本文作者：陈睿|mikechen

文章来源：mikechen.cc

Nginx

Nginx作为一款高性能的HTTP服务器、和反向代理服务器，在处理高并发请求方面有着卓越的表现。

在高并发下优化 Nginx 性能，需要从 架构设计、配置优化、系统层调优、硬件支持 ...等 方面入手。

Nginx架构设计

Nginx采用异步、非阻塞的事件驱动架构，这使得它能够高效处理成千上万的并发连接。

传统的程序往往是顺序执行的，即一个任务执行完成后，才会执行下一个任务。

而事件驱动的程序则不同，它基于事件发生来驱动程序的执行。

当某个事件发生时，程序就会执行相应的回调函数来处理这个事件。

所以，Nginx采用事件驱动模型，来处理并发请求，这种模型允许服务器在等待I/O操作时，能够继续处理其他请求，从而提高了资源利用率、和并发处理能力。

Nginx架构设计，如下图所示：

Nginx使用一个主进程，来管理多个工作进程。

主进程：负责监听新的连接请求，而工作进程则：负责实际的请求处理。

以下是事件循环的基本流程：

1. 等待事件：主进程通过epoll_wait等方法，进入阻塞状态，等待新的连接、或数据到达。
2. 处理事件：当有新的连接到达、或已有连接的数据可读时，主进程会唤醒相应的工作进程来处理这些事件。
3. 生成新事件：在处理过程中，可能会生成新的事件（例如，发送响应），这些新事件会被放入待处理队列中。
4. 重复循环：工作进程完成当前任务后，会返回到等待状态，继续监听新的事件。

Nginx 多路复用

Nginx 主要使用 Linux 的 epoll 系统调用，来实现高效的事件通知机制。

worker_processes auto;  # 自动设置为 CPU 核数
worker_connections 65535;  # 每个 Worker 支持的最大连接数
events {
    use epoll;  # 使用高性能 IO 模型
    multi_accept on;  # 单次接受尽可能多的连接
}

传统的 I/O 模型(select/poll)，需要每次遍历所有的文件描述符进行检查，当文件描述符数量增多时，性能会大幅下降。

在 Linux 系统中，epoll 是一种高效的 I/O 多路复用技术，专为处理大规模并发连接而设计。

Nginx 会将所有活动连接放入 epoll 事件池中，epoll 会通过事件通知机制告知 Nginx 何时准备好处理数据。

epoll 使用红黑树、和就绪链表来管理事件，查找和修改事件的效率很高。

通过使用 epoll 等高效的事件通知机制，Nginx 可以同时处理大量的连接，并实现高并发、低延迟的网络服务。

Nginx配置优化

worker 进程和连接配置：

worker_processes：根据CPU核心数合理设置worker进程数。

worker_connections：设置每个worker进程最大并发连接数。

worker_processes auto;  # 根据 CPU 核心数自动调整进程数
worker_connections 65535;  # 每个 worker 最大连接数
events {
    use epoll;  # 使用 epoll 事件驱动模型
    multi_accept on;  # 一次性接受多个连接
}

keepalive_timeout：设置长连接超时时间，平衡连接数和资源占用。

worker_rlimit_nofile：设置每个worker进程最大打开文件数。

sendfile：开启sendfile，减少数据拷贝次数。

tcp_nopush：优化TCP协议栈性能。

http {
    sendfile on;  # 使用零拷贝技术发送文件
    tcp_nopush on;  # 避免发送小数据包
    tcp_nodelay on;  # 禁用 Nagle 算法，提高小数据包的发送效率
    keepalive_timeout 15;  # 设置连接超时时间
    keepalive_requests 10000;  # 设置每个连接的最大请求数
}

gzip：压缩静态资源，减少传输数据量。

proxy_cache：缓存动态内容，减少后端服务器压力。

proxy_cache_path /var/cache/nginx levels=1:2 keys_zone=my_cache:10m max_size=1g inactive=60m;
server {
    location / {
        proxy_cache my_cache;
        proxy_cache_valid 200 10m;  # 缓存响应为 200 的请求
        proxy_pass http://backend;
    }
}

gzip on;
gzip_min_length 1024;  # 仅压缩超过1KB的响应
gzip_types text/plain application/json;  # 指定压缩类型

Nginx硬件优化

高并发的性能优化，不仅仅依赖于软件配置，硬件的支持也是至关重要的：

比如：网络硬件优化，高性能网卡，比如：使用 10Gbps 或更高速率的网卡，降低网络瓶颈。

以及，存储优化，比如：SSD 硬盘，使用 SSD 硬盘存储日志和缓存，提升 I/O 性能。

以及，增加内存，提高缓存命中率，减少磁盘 I/O，增强响应速度。

通过合理的硬件资源配置、系统调优、Nginx 配置以及高效的负载均衡策略，可以极大地提升并发性能。

本文作者：陈睿|mikechen

文章来源：mikechen.cc