百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

高并发场景下,Nginx如何扛住百万级请求?

off999 2025-02-27 16:21 27 浏览 0 评论

Nginx是大型架构的必备中间件,也是大厂必备技能,下面我就重点详解高并发场景下,Nginx实现高并发的关键技术@mikechen

本文作者:mikechen

文章来源:mikechen.cc

事件驱动模型

Nginx 的事件驱动模型,是其高性能、高并发的关键所在。

在传统的线程模型中,每个请求都会分配一个独立的线程、或进程来处理。

假设系统需要处理10000个并发连接,那每次创建、或销毁线程,都需要消耗系统资源。

例如:

10,000 个线程 × 1MB/线程 = 10GB 内存;

这样的内存,占用对于大多数服务器来说是不可接受的。

Nginx 的事件驱动模型,Nginx 通常会启动少量的工作进程(通常与 CPU 核心数相同)。

这样,每个工作进程可以处理数千个并发连接,而不是为每个连接创建独立的线程。

异步非阻塞I/O

Nginx使用异步非阻塞I/O模型,避免了因等待I/O操作完成而导致的阻塞。

在这种模型下,当一个连接发起 I/O 操作时,它不会阻塞当前的工作进程。

相反,工作进程会继续处理其他事件,直到操作系统通知 I/O 操作完成。

异步

指操作发起后,调用者无需等待操作完成,可继续执行其他任务。

操作完成时,系统会通过回调函数、事件通知…等机制,告知调用者。

非阻塞

意味着在执行 I/O 操作时,如果操作无法立即完成,程序不会被阻塞挂起,而是立即返回,并可以继续执行后续代码。

所以,这种机制使得 Nginx 能够高效地利用资源,同时处理多个连接。

IO多路复用

为了同时管理多个I/O操作,异步非阻塞I/O,通常结合I/O多路复用技术使用。

比如:epoll、select、poll…等等,

select:最大支持 1024 个文件描述符,且每次调用都需要遍历整个文件描述符集合,性能随并发数量线性下降;

poll:虽然没有文件描述符数量的限制,但每次调用也需要遍历整个文件描述符集合,性能瓶颈明显;

epoll:没有文件描述符数量的限制,且不需要遍历整个集合,性能不受并发数量的影响。

所以,大部分情况下,都会采用epoll 来实现IO多路复用。

epoll 是 Linux 内核,为处理大批量文件描述符而作了改进的 I/O 多路复用技术,它在处理高并发网络连接时具有很高的效率。

epoll 只有在实际有事件发生时才会通知程序,减少了不必要的系统调用、和上下文切换。

Nginx性能优化

通过合理配置 Nginx 的缓存机制,可以显著减少后端服务器的压力,提升系统的响应速度和并发处理能力。

比如:静态资源如图片、CSS、JavaScript 文件…等不经常变化,对这些资源进行缓存,能极大提升网站响应速度。

http {    # 设置缓存时间    location ~* \.(jpg|jpeg|png|gif|ico|css|js)$ {        expires 30d;  # 缓存30天        add_header Cache-Control "public, max-age=2592000";    }}

比如:代理缓存,在作为反向代理时,对后端服务器的响应进行缓存,减轻后端服务器压力。

proxy_cache_path /var/cache/nginx levels=1:2 keys_zone=my_cache:10m max_size=10g inactive=60m;server {    location / {        proxy_cache my_cache;        proxy_cache_key "$scheme$host$request_uri";        proxy_cache_valid 200 301 302 10m;        proxy_cache_valid 404 1m;        proxy_pass http://backend_server;    }}

除此之外,还可以结合Nginx的配置,够针对高并发场景,进行进一步优化。

本文作者:mikechen

文章来源:mikechen.cc

相关推荐

Python设计模式 第 13 章 中介者模式(Mediator Pattern)

在行为型模式中,中介者模式是解决“多对象间网状耦合”问题的核心模式。它就像“机场调度中心”——多个航班(对象)无需直接沟通起飞、降落时间,只需通过调度中心(中介者)协调,避免航班间的冲突与混乱...

1.3.1 python交互式模式的特点和用法

什么是Python交互模式Python交互模式,也叫Python交互式编程,是一种在Python解释器中运行的模式,它允许用户在解释器窗口中输入单个Python语句,并立即查看结果,而不需要编写整个程...

Python设计模式 第 8 章 装饰器模式(Decorator Pattern)

在结构型模式中,装饰器模式是实现“动态功能扩展”的核心模式。它就像“手机壳与手机的关系”——手机(原始对象)具备通话、上网等基础功能,手机壳(装饰器)可在不改变手机本身的前提下,为其新增保护、...

python设计模式 综合应用与实战指南

经过前面16章的学习,我们已系统掌握创建型模式(单例、工厂、建造者、原型)、结构型模式(适配器、桥接、组合、装饰器、外观、享元、代理)、行为型模式(责任链、命令、迭代器、中介者、观察者、状态、策略...

Python入门学习教程:第 16 章 图形用户界面(GUI)编程

16.1什么是GUI编程?图形用户界面(GraphicalUserInterface,简称GUI)是指通过窗口、按钮、菜单、文本框等可视化元素与用户交互的界面。与命令行界面(CLI)相比,...

Python 中 必须掌握的 20 个核心:str()

str()是Python中用于将对象转换为字符串表示的核心函数,它在字符串处理、输出格式化和对象序列化中扮演着关键角色。本文将全面解析str()函数的用法和特性。1.str()函数的基本用法1.1...

Python偏函数实战:用functools.partial减少50%重复代码的技巧

你是不是经常遇到这样的场景:写代码时同一个函数调用了几十次,每次都要重复传递相同的参数?比如处理文件时总要用encoding='utf-8',调用API时固定传Content-Type...

第2节.变量和数据类型【第29课-输出总结】

同学们,关于输出的知识点讲解完成之后,把重点性的知识点做一个总结回顾。·首先对于输出这一章节讲解的比如有格式化符号,格式化符号这里需要同学们额外去多留意的是不是百分号s格式化输出字符串。当然课上也说百...

AI最火语言python之json操作_python json.loads()

JSON(JavaScriptObjectNotation,JavaScript对象表示法)是一种开放标准的文件格式和数据交换格式,它易于人阅读和编写。JSON是一种常用的数据格式,比如对接各种第...

python中必须掌握的20个核心函数—split()详解

split()是Python字符串对象的方法,用于将字符串按照指定的分隔符拆分成列表。它是文本处理中最常用的函数之一。一、split()的基本用法1.1基本语法str.split(sep=None,...

实用方法分享:pdf文件分割方法 横向A3分割成纵向A4

今天在街上打印店给儿子打印试卷时,我在想:能不能,把它分割成A4在家中打印,这样就不需要跑到街上的打印店打印卷子了。原来,老师发的作业,是电子稿,pdf文件,A3格式的试卷。可是家中的打印机只能打印A...

20道常考Python面试题大总结_20道常考python面试题大总结免费

20道常考Python面试题大总结关于Python的面试经验一般来说,面试官会根据求职者在简历中填写的技术及相关细节来出面试题。一位拿了大厂技术岗SpecialOffer的网友分享了他总结的面试经...

Kotlin Data Classes 快速上手_kotlin快速入门

引言在日常开发中,我们常常需要创建一些只用来保存数据的类。问题是,这样的类往往需要写一堆模板化的方法:equals()、hashCode()、toString()……每次都重复,既枯燥又容易出错。//...

python自动化RobotFramework中Collections字典关键字使用(五)

前言介绍安装好robotframework库后,跟之前文章介绍的BuiltIn库一样BuiltIn库使用介绍,在“python安装目录\Lib\site-packages\robot\librarie...

Python中numpy数据分析库知识点总结

Python中numpy数据分析库知识点总结二、对已读取数据的处理②指定一个值,并对该值双边进行修改③指定两个值,并对第一个值的左侧和第二个值的右侧进行修改2.4数组的拼接和行列交换①竖直拼接(np...

取消回复欢迎 发表评论: