Python中的多进程
off999 2025-04-29 03:19 37 浏览 0 评论
回顾
在Python进阶记录之基础篇(二十二)中,我们介绍了Python中对文本文件和二进制文件的简单操作,需要重点掌握文件的各种打开方式,以及简单的读写操作。今天我们讲一下Python中的多进程。
进程的基本概念
进程就是操作系统中执行的一个程序,操作系统以进程为单位分配存储空间,每个进程都有自己的地址空间、数据栈以及其他用于跟踪进程执行的辅助数据,操作系统管理所有进程的执行,为它们合理的分配资源。
进程可以通过fork或spawn的方式来创建新的进程来执行其他的任务,不过新的进程也有自己独立的内存空间,因此必须通过进程间通信机制来实现数据共享,具体的方式包括管道、信号、套接字、共享内存区等。
我们先来看这样一个例子:假设现在我们需要下载两个文件(具体怎么下载暂时先忽略)。按照我们之前掌握的知识点,就是一个一个地逐一下载。
上述代码中,我们将两个文件按顺序进行下载,为了模拟真实下载场景,我们设置相应的下载时间。可以看到,如果按顺序逐一下载,需要先等待一个文件下载完成后才能开始下一个文件的下载,整个过程下来需要耗费两个下载任务时间的总和,即9秒左右。
但是我们知道,这是两个毫不相关的下载任务,像这样逐一下载显然效率太低了。因此,就出现了并发编程的概念,而多进程就是Python实现并发编程的三种方式之一。
Python中多进程的创建方式
Python为我们提供了两种方式来实现多进程:系统的fork( )函数和multiprocessing
模块。其中multiprocessing模块是我们使用多进程的主要方式。
- 系统的fork( )函数
Unix和Linux操作系统提供了fork( )系统调用来创建进程,调用fork( )函数的是父进程,创建出的是子进程,子进程就是父进程的一个拷贝,但是子进程拥有自己的PID(进程标识)。
fork( )函数非常特殊,它会返回两次,父进程中可以通过fork( )函数的返回值得到子进程的PID,而子进程中的返回值永远都是0。
因此,在Unix和Linux操作系统中,Python的os模块也拥有fork( )函数。
fork( )函数可以创建子进程,通过子进程实现多进程。可以看到,通过创建子进程,耗时从原来的9秒左右缩短到5秒左右。
- multiprocessing模块
由于Windows系统中没有fork调用,因此我们在Windows系统中使用os.fork( )是无法运行的。
为了实现跨平台的多进程编程,Python为我们提供了multiprocessing模块。该模块中的Process类可以创建子进程,而且该模块还提供了更高级的封装,例如批量启动进程的进程池、用于进程间通信的队列和管道等。
因此,在Python的实际开发过程中,我们更多地是使用multiprocessing模块来实现多进程。
上述代码中,我们通过multiprocessing模块的Process类创建了进程对象,target参数表示目标函数,即进程启动后要执行的代码,args参数是目标函数所需要的参数,用一个元组接收。Process的start( )方法用于启动进程,而join( )方法表示等待进程执行结束再继续往下运行。
我们运行上述代码,可以发现两个下载任务一起执行,从而大大缩短了程序的执行时间。并且与fork( )函数相比,这种方式更加清晰。
进程池Pool
当下载文件增多,需要大量子进程时,我们也可以使用multiprocessing模块中的进程池Pool。假设现在有5个文件待下载,我们通过进程池Pool来实现并发下载。
上述代码中,我们创建了一个Pool对象,然后通过循环调用apply_async( )方法来创建进程。创建结束调用close( )方法,调用此方法后进程池就不能继续添加新的进程了。最后调用join( )方法等待所有子进程执行完毕。
从运行结果我们看到,程序并没有像我们预计地5个文件一起下载,而是先下载其中四个,直到四个中有一个下载完成才开始第5个。这是因为Pool线程池是有默认大小的,在我电脑上默认就是4,因此,最多同时执行4个进程。
如果你想同时执行5个,需要在创建Pool对象时传入一个5即可,p = Pool(5)。
进程间的通信
进程与进程之间有时也需要通信,在介绍进程的基本概念中我们提到,操作系统提供了很多机制来实现进程间的通信。Python的multiprocessing模块也包装了操作系统底层的机制,提供了对列(Queue)、管道(Pipes)等多种方式来实现数据共享。
下面我们以对列Queue为例,首先创建两个子进程,其中,一个往对列中写数据,一个从对列中读数据。
上述代码中,我们首先创建对列对象,然后创建两个进程分别用于数据的读和写。通过对列的put/get方法实现了两个进程之间的数据共享。
总结
以上内容介绍了进程的基本概念以及Python中多进程的使用方法,需要重点理解进程的概念。熟练掌握多进程的创建方法和各种基本操作。感谢大家的支持与关注,欢迎一起学习交流~
- 上一篇:一篇文章带你解析Python进程
- 下一篇:Python 进程:掌控并发世界的钥匙
相关推荐
- win7x86是32位还是64位
-
32位win7x86是32位操作系统,win7x64是64位操作系统。扩展资料Windows7,中文名称视窗7,是由微软公司(Microsoft)开发的操作系统,内核版本号为WindowsNT...
- 用我告诉你安装win7(安装win7教程)
-
方法一:使用工具在线一键下载安装win7(win7正式版只需使用正版密钥激活即可)1、在电脑安装好小白一键重装系统工具打开,选择原版win7旗舰版系统,点击安装此系统。2、等待软件自动下载系统镜像文件...
- sd卡如何修复(如何修复sd卡视频教程)
-
修复SD卡的三个步骤如下:1.使用磁盘检测工具检查SD卡的错误:您可以使用Windows操作系统中自带的磁盘检查工具或第三方软件来检查并修复SD卡中的错误。2.格式化SD卡:如果检查后发现错误无法...
- 安卓手机杀毒软件哪个最好用
-
腾讯手机管家的守护老人安全功能版本我在用,我来说说吧。此版本是专门为守护老人安全设计推出的,不但有效拦截诈骗短信,电话,木马病毒,钓鱼网址,辟谣功能可以帮助老人立即分辨养生讯息,银行卡故障讯息,保险异...
- xp3用什么模拟器打开(xp3用什么模拟器打开好)
-
可以按照以下的步骤排查解决:首先,游戏必须要使kirikiri引擎,这点可以从文件中是否含有部分xp3后缀的文件来判断然后用模拟器打开date.xp3就行了,部分汉化游戏是直接打开exe程序如果遇到d...
- 固态硬盘用mbr还是guid(固态硬盘guid好还是mbr好)
-
如果电脑原装系统是win8或者以上的,那么硬盘分区表格式为GUID(GPT)格式的;如果是win7以下的,那么一般就是MBR的。主引导记录(MBR)是计算机开机后访问硬盘时所必须要读取的首个扇区,由分...
- 为什么fps大神都是400dpi(fps为什么高)
-
400DPI,在游戏里调节不同英雄的鼠标灵敏度,可以保证最小范围微调改动鼠标移动速度。因为DPI和灵敏度是乘积关系。举个例子:如果你玩麦克雷时鼠标DPI是3200,游戏内灵敏度是1。但你切换到源氏和闪...
- 系统集成项目管理工程师难考吗
-
系统集成项目管理工程师考试的普遍通过率是在10%左右,但是并不表示考试真的有那么难。因为考试本身没有报考条件的限制,且考试报名费用很低,很多人都不重视考试。所以通过率普遍偏低,只要你认真备考,有一...
- 360影视大全下载2025免费版(下载360影视大全最新版下载安装到手机版)
-
你好朋友360影视大全里的很多视频都是免费的,建议安装最新的360影视大全就可以了打开360视频,搜索自己需要的视频,点击360播放器右下角的下载箭头,即可将视频进行下载,下载完毕之后视频会保存在36...
- 360安全卫士手机版下载(360安全卫士官方免费下载手机版5.5.0)
-
相当靠谱360手机卫士是一款由奇虎网推出的功能强、效果好、受用户欢迎的上网安全软件。360安全卫士拥有查杀木马、清理插件、修复漏洞、电脑体检、保护隐私等多种功能,并独创了“木马防火墙”“360密盘”等...
- deepin和统信uos(统信和deepin的区别)
-
差不多。1Deepin原名LinuxDeepin、deepinos、深度操作系统,于2014年4月改名Deepin。deepin团队基于Qt/C++(用于前端)和Go(用于后端)开发了的全新深度桌...
- 三星驱动(三星驱动板)
-
驱动是必须装的,但不需要单独安装驱动。 1、电脑的所有硬件,必然要装驱动,键盘、鼠标什么的,都是有驱动的。驱动是软件和硬件结合的桥梁。但多数普通常见的硬件,驱动是widnows系统自带的,不需要用户...
- u盘启动杀毒软件(u盘杀毒系统)
-
有,但是主要是专杀工具,全面的综合杀毒软件基本上没有,因为没什么用。 1、放在U盘里的杀毒软件,就是不安装,也不监控,只杀毒的软件。 2、目前的杀毒软件的工作机制,主要是监控,监控电脑不感染病...
- 联想维修站点查询官网(联想 维修 服务网点)
-
您可以在联想的官方网站上查询到附近的授权维修服务点,或者拨打联想的客服电话寻求帮助。在维修服务点,您可以享受到专业的维修服务,包括硬件故障、软件问题、系统优化等方面的维护和维修。维修人员将会根据您的电...
欢迎 你 发表评论:
- 一周热门
-
-
抖音上好看的小姐姐,Python给你都下载了
-
全网最简单易懂!495页Python漫画教程,高清PDF版免费下载
-
Python 3.14 的 UUIDv6/v7/v8 上新,别再用 uuid4 () 啦!
-
飞牛NAS部署TVGate Docker项目,实现内网一键转发、代理、jx
-
python入门到脱坑 输入与输出—str()函数
-
宝塔面板如何添加免费waf防火墙?(宝塔面板开启https)
-
Python三目运算基础与进阶_python三目运算符判断三个变量
-
(新版)Python 分布式爬虫与 JS 逆向进阶实战吾爱分享
-
失业程序员复习python笔记——条件与循环
-
系统u盘安装(win11系统u盘安装)
-
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)
