百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

高并发场景下,Nginx如何扛住百万级请求?

off999 2025-02-27 16:21 33 浏览 0 评论

Nginx是大型架构的必备中间件,也是大厂必备技能,下面我就重点详解高并发场景下,Nginx实现高并发的关键技术@mikechen

本文作者:mikechen

文章来源:mikechen.cc

事件驱动模型

Nginx 的事件驱动模型,是其高性能、高并发的关键所在。

在传统的线程模型中,每个请求都会分配一个独立的线程、或进程来处理。

假设系统需要处理10000个并发连接,那每次创建、或销毁线程,都需要消耗系统资源。

例如:

10,000 个线程 × 1MB/线程 = 10GB 内存;

这样的内存,占用对于大多数服务器来说是不可接受的。

Nginx 的事件驱动模型,Nginx 通常会启动少量的工作进程(通常与 CPU 核心数相同)。

这样,每个工作进程可以处理数千个并发连接,而不是为每个连接创建独立的线程。

异步非阻塞I/O

Nginx使用异步非阻塞I/O模型,避免了因等待I/O操作完成而导致的阻塞。

在这种模型下,当一个连接发起 I/O 操作时,它不会阻塞当前的工作进程。

相反,工作进程会继续处理其他事件,直到操作系统通知 I/O 操作完成。

异步

指操作发起后,调用者无需等待操作完成,可继续执行其他任务。

操作完成时,系统会通过回调函数、事件通知…等机制,告知调用者。

非阻塞

意味着在执行 I/O 操作时,如果操作无法立即完成,程序不会被阻塞挂起,而是立即返回,并可以继续执行后续代码。

所以,这种机制使得 Nginx 能够高效地利用资源,同时处理多个连接。

IO多路复用

为了同时管理多个I/O操作,异步非阻塞I/O,通常结合I/O多路复用技术使用。

比如:epoll、select、poll…等等,

select:最大支持 1024 个文件描述符,且每次调用都需要遍历整个文件描述符集合,性能随并发数量线性下降;

poll:虽然没有文件描述符数量的限制,但每次调用也需要遍历整个文件描述符集合,性能瓶颈明显;

epoll:没有文件描述符数量的限制,且不需要遍历整个集合,性能不受并发数量的影响。

所以,大部分情况下,都会采用epoll 来实现IO多路复用。

epoll 是 Linux 内核,为处理大批量文件描述符而作了改进的 I/O 多路复用技术,它在处理高并发网络连接时具有很高的效率。

epoll 只有在实际有事件发生时才会通知程序,减少了不必要的系统调用、和上下文切换。

Nginx性能优化

通过合理配置 Nginx 的缓存机制,可以显著减少后端服务器的压力,提升系统的响应速度和并发处理能力。

比如:静态资源如图片、CSS、JavaScript 文件…等不经常变化,对这些资源进行缓存,能极大提升网站响应速度。

http {    # 设置缓存时间    location ~* \.(jpg|jpeg|png|gif|ico|css|js)$ {        expires 30d;  # 缓存30天        add_header Cache-Control "public, max-age=2592000";    }}

比如:代理缓存,在作为反向代理时,对后端服务器的响应进行缓存,减轻后端服务器压力。

proxy_cache_path /var/cache/nginx levels=1:2 keys_zone=my_cache:10m max_size=10g inactive=60m;server {    location / {        proxy_cache my_cache;        proxy_cache_key "$scheme$host$request_uri";        proxy_cache_valid 200 301 302 10m;        proxy_cache_valid 404 1m;        proxy_pass http://backend_server;    }}

除此之外,还可以结合Nginx的配置,够针对高并发场景,进行进一步优化。

本文作者:mikechen

文章来源:mikechen.cc

相关推荐

阿里云国际站ECS:阿里云ECS如何提高网站的访问速度?

TG:@yunlaoda360引言:速度即体验,速度即业务在当今数字化的世界中,网站的访问速度已成为决定用户体验、用户留存乃至业务转化率的关键因素。页面加载每延迟一秒,都可能导致用户流失和收入损失。对...

高流量大并发Linux TCP性能调优_linux 高并发网络编程

其实主要是手里面的跑openvpn服务器。因为并没有明文禁p2p(哎……想想那么多流量好像不跑点p2p也跑不完),所以造成有的时候如果有比较多人跑BT的话,会造成VPN速度急剧下降。本文所面对的情况为...

性能测试100集(12)性能指标资源使用率

在性能测试中,资源使用率是评估系统硬件效率的关键指标,主要包括以下四类:#性能测试##性能压测策略##软件测试#1.CPU使用率定义:CPU处理任务的时间占比,计算公式为1-空闲时间/总...

Linux 服务器常见的性能调优_linux高性能服务端编程

一、Linux服务器性能调优第一步——先搞懂“看什么”很多人刚接触Linux性能调优时,总想着直接改配置,其实第一步该是“看清楚问题”。就像医生看病要先听诊,调优前得先知道服务器“哪里...

Nginx性能优化实战:手把手教你提升10倍性能!

关注△mikechen△,十余年BAT架构经验倾囊相授!Nginx是大型架构而核心,下面我重点详解Nginx性能@mikechen文章来源:mikechen.cc1.worker_processe...

高并发场景下,Spring Cloud Gateway如何抗住百万QPS?

关注△mikechen△,十余年BAT架构经验倾囊相授!大家好,我是mikechen。高并发场景下网关作为流量的入口非常重要,下面我重点详解SpringCloudGateway如何抗住百万性能@m...

Kubernetes 高并发处理实战(可落地案例 + 源码)

目标场景:对外提供HTTPAPI的微服务在短时间内收到大量请求(例如每秒数千至数万RPS),要求系统可弹性扩容、限流降级、缓存减压、稳定运行并能自动恢复。总体思路(多层防护):边缘层:云LB...

高并发场景下,Nginx如何扛住千万级请求?

Nginx是大型架构的必备中间件,下面我重点详解Nginx如何实现高并发@mikechen文章来源:mikechen.cc事件驱动模型Nginx采用事件驱动模型,这是Nginx高并发性能的基石。传统...

Spring Boot+Vue全栈开发实战,中文版高清PDF资源

SpringBoot+Vue全栈开发实战,中文高清PDF资源,需要的可以私我:)SpringBoot致力于简化开发配置并为企业级开发提供一系列非业务性功能,而Vue则采用数据驱动视图的方式将程序...

Docker-基础操作_docker基础实战教程二

一、镜像1、从仓库获取镜像搜索镜像:dockersearchimage_name搜索结果过滤:是否官方:dockersearch--filter="is-offical=true...

你有空吗?跟我一起搭个服务器好不好?

来人人都是产品经理【起点学院】,BAT实战派产品总监手把手系统带你学产品、学运营。昨天闲的没事的时候,随手翻了翻写过的文章,发现一个很严重的问题。就是大多数时间我都在滔滔不绝的讲理论,却很少有涉及动手...

部署你自己的 SaaS_saas如何部署

部署你自己的VPNOpenVPN——功能齐全的开源VPN解决方案。(DigitalOcean教程)dockovpn.io—无状态OpenVPNdockerized服务器,不需要持久存储。...

Docker Compose_dockercompose安装

DockerCompose概述DockerCompose是一个用来定义和管理多容器应用的工具,通过一个docker-compose.yml文件,用YAML格式描述服务、网络、卷等内容,...

京东T7架构师推出的电子版SpringBoot,从构建小系统到架构大系统

前言:Java的各种开发框架发展了很多年,影响了一代又一代的程序员,现在无论是程序员,还是架构师,使用这些开发框架都面临着两方面的挑战。一方面是要快速开发出系统,这就要求使用的开发框架尽量简单,无论...

Kubernetes (k8s) 入门学习指南_k8s kubeproxy

Kubernetes(k8s)入门学习指南一、什么是Kubernetes?为什么需要它?Kubernetes(k8s)是一个开源的容器编排系统,用于自动化部署、扩展和管理容器化应用程序。它...

取消回复欢迎 发表评论: