百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

高并发场景下,Nginx如何扛住百万级请求?

off999 2025-02-27 16:21 13 浏览 0 评论

Nginx是大型架构的必备中间件,也是大厂必备技能,下面我就重点详解高并发场景下,Nginx实现高并发的关键技术@mikechen

本文作者:mikechen

文章来源:mikechen.cc

事件驱动模型

Nginx 的事件驱动模型,是其高性能、高并发的关键所在。

在传统的线程模型中,每个请求都会分配一个独立的线程、或进程来处理。

假设系统需要处理10000个并发连接,那每次创建、或销毁线程,都需要消耗系统资源。

例如:

10,000 个线程 × 1MB/线程 = 10GB 内存;

这样的内存,占用对于大多数服务器来说是不可接受的。

Nginx 的事件驱动模型,Nginx 通常会启动少量的工作进程(通常与 CPU 核心数相同)。

这样,每个工作进程可以处理数千个并发连接,而不是为每个连接创建独立的线程。

异步非阻塞I/O

Nginx使用异步非阻塞I/O模型,避免了因等待I/O操作完成而导致的阻塞。

在这种模型下,当一个连接发起 I/O 操作时,它不会阻塞当前的工作进程。

相反,工作进程会继续处理其他事件,直到操作系统通知 I/O 操作完成。

异步

指操作发起后,调用者无需等待操作完成,可继续执行其他任务。

操作完成时,系统会通过回调函数、事件通知…等机制,告知调用者。

非阻塞

意味着在执行 I/O 操作时,如果操作无法立即完成,程序不会被阻塞挂起,而是立即返回,并可以继续执行后续代码。

所以,这种机制使得 Nginx 能够高效地利用资源,同时处理多个连接。

IO多路复用

为了同时管理多个I/O操作,异步非阻塞I/O,通常结合I/O多路复用技术使用。

比如:epoll、select、poll…等等,

select:最大支持 1024 个文件描述符,且每次调用都需要遍历整个文件描述符集合,性能随并发数量线性下降;

poll:虽然没有文件描述符数量的限制,但每次调用也需要遍历整个文件描述符集合,性能瓶颈明显;

epoll:没有文件描述符数量的限制,且不需要遍历整个集合,性能不受并发数量的影响。

所以,大部分情况下,都会采用epoll 来实现IO多路复用。

epoll 是 Linux 内核,为处理大批量文件描述符而作了改进的 I/O 多路复用技术,它在处理高并发网络连接时具有很高的效率。

epoll 只有在实际有事件发生时才会通知程序,减少了不必要的系统调用、和上下文切换。

Nginx性能优化

通过合理配置 Nginx 的缓存机制,可以显著减少后端服务器的压力,提升系统的响应速度和并发处理能力。

比如:静态资源如图片、CSS、JavaScript 文件…等不经常变化,对这些资源进行缓存,能极大提升网站响应速度。

http {    # 设置缓存时间    location ~* \.(jpg|jpeg|png|gif|ico|css|js)$ {        expires 30d;  # 缓存30天        add_header Cache-Control "public, max-age=2592000";    }}

比如:代理缓存,在作为反向代理时,对后端服务器的响应进行缓存,减轻后端服务器压力。

proxy_cache_path /var/cache/nginx levels=1:2 keys_zone=my_cache:10m max_size=10g inactive=60m;server {    location / {        proxy_cache my_cache;        proxy_cache_key "$scheme$host$request_uri";        proxy_cache_valid 200 301 302 10m;        proxy_cache_valid 404 1m;        proxy_pass http://backend_server;    }}

除此之外,还可以结合Nginx的配置,够针对高并发场景,进行进一步优化。

本文作者:mikechen

文章来源:mikechen.cc

相关推荐

Python自动化脚本应用与示例(python自动化脚本教程)

Python是编写自动化脚本的绝佳选择,因其语法简洁、库丰富且跨平台兼容性强。以下是Python自动化脚本的常见应用场景及示例,帮助你快速上手:一、常见自动化场景文件与目录操作O批量重命名文件...

如何使用Python实现一个APP(如何用python做一个程序)

要使用Python实现一个APP,你可以选择使用一些流行的移动应用开发框架,如Kivy、PyQt或Tkinter。这里以Kivy为例,它是一个跨平台的Python框架,可以用于创建漂亮的图形用户界面(...

免费定时运行Python程序并存储输出文档的服务推荐

免费定时运行Python程序并存储输出文档的服务推荐以下是几种可以免费定时运行Python程序并存储输出结果的云服务方案:1.PythonAnywhere特点:提供免费的Python托管环境支持定时...

【Python程序开发系列】如何让python脚本一直在后台保持运行

这是我的第385篇原创文章。一、引言让Python脚本在后台持续运行,有几种常见的方式,具体方式可以根据你的系统环境和需求选择。二、Linux或macOS系统2.1使用nohup命令no...

运行和执行Python程序(运行python的程序)

一、Python是一种解释型的脚本编程语言,这样的编程语言一般支持两种代码运行方式:交互式编程在命令行窗口中直接输入代码,按下回车键就可以运行代码,并立即看到输出结果;执行完一行代码,你还可以继续...

Python 初学者指南:计算程序的运行时长

在编写Python程序时,了解程序的运行时长是一项很有用的技能。这不仅能帮助你评估代码的效率,还能在优化程序性能时提供关键的数据支持。对于初学者来说,计算程序运行时长其实并不复杂,接下来就让我们看...

pyest+appium实现APP自动化测试,思路全总结在这里

每天进步一点点,关注我们哦,每天分享测试技术文章本文章出自【码同学软件测试】码同学公众号:自动化软件测试码同学抖音号:小码哥聊软件测试01appium环境搭建安装nodejshttp://nodej...

血脉觉醒后,编程小白我是如何通过Deepseek和Trae轻松开发软件的

以下就是作为一个编程小白的我,是如何一步步开发软件的保姆级教程,请点赞收藏:第一步:打开#deepseek#(首先关闭深度思考和联网搜索)输入或复制你要让它做一个什么样软件的要求和提示词(你可以先用...

我用Deepseek+Trae写的python小软件,小白也能轻松用上模型啦!

利用AI大模型deepseek,搭配TraeCN,用半个小时做了一个本地Ollama安装部署和一键卸载的小工具,哈哈哈!感觉还不错#deepseek#一直想做一个本地Ollama安装部署和一键卸载...

在安卓设备上运行Python的方法(安卓能运行python吗)

技术背景在安卓设备上运行Python可以为开发者提供更多的开发选择和灵活性,能够利用Python丰富的库和简洁的语法来开发各种应用,如游戏、脚本工具等。然而,由于安卓系统原生不支持Python,需要借...

零基础小白,DeepSeek全自动编程,超详细提示词,一键生成软件!

我前面发表了文章,详细说了编程零基础小白,如何利用DeepSeek进行编程的全过程,感兴趣的可以去看看:DeepSeek全自动编程很多人不会写提示词,不知道怎么开始对话。话不多说,请先看下图中的对话,...

小白用DeepSeek+Python编写软件(用python制作软件)

周末无事,用DeepSeek生成全部代码,写了一个mp3音乐播放器,几分钟搞定,DeepSeek确实太强大了。我的提示语是这么写的:“请用Python语言写一个音乐播放器,支持常见音乐格式,我是Pyt...

零基础使用DeepSeek开发Windows应用程序,超简单超实用!

你敢相信,我居然用DeepSeek开发了一个能用的Windows软件!整个过程就像和学霸同桌组队做作业,我负责提需求,DeepSeek负责写代码改bug,全程碰到任何问题直接丢给DeepSeek即可。...

第二篇:如何安装Python并运行你的第一个程序

欢迎回到我的Python入门教程系列!在上一篇中,我们讨论了为什么Python是一门值得学习的编程语言。今天,我们将迈出第一步:安装Python并运行你的第一个程序。无论你是Windows、macOS...

Python 运行,带你找入口,快速读懂程序

有C或Java编程开发经验的软件开发者,初次接触python程序,当你想快速读懂python项目工程时,是否觉得python程序有些太过随意,让你看有些无所适从,进而有些茫然。这是...

取消回复欢迎 发表评论: