百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Python中的多进程

off999 2025-04-29 03:19 16 浏览 0 评论

回顾

在Python进阶记录之基础篇(二十二)中,我们介绍了Python中对文本文件和二进制文件的简单操作,需要重点掌握文件的各种打开方式,以及简单的读写操作。今天我们讲一下Python中的多进程。

进程的基本概念

进程就是操作系统中执行的一个程序,操作系统以进程为单位分配存储空间,每个进程都有自己的地址空间、数据栈以及其他用于跟踪进程执行的辅助数据,操作系统管理所有进程的执行,为它们合理的分配资源。

进程可以通过fork或spawn的方式来创建新的进程来执行其他的任务,不过新的进程也有自己独立的内存空间,因此必须通过进程间通信机制来实现数据共享,具体的方式包括管道、信号、套接字、共享内存区等。

我们先来看这样一个例子:假设现在我们需要下载两个文件(具体怎么下载暂时先忽略)。按照我们之前掌握的知识点,就是一个一个地逐一下载。

上述代码中,我们将两个文件按顺序进行下载,为了模拟真实下载场景,我们设置相应的下载时间。可以看到,如果按顺序逐一下载,需要先等待一个文件下载完成后才能开始下一个文件的下载,整个过程下来需要耗费两个下载任务时间的总和,即9秒左右。

但是我们知道,这是两个毫不相关的下载任务,像这样逐一下载显然效率太低了。因此,就出现了并发编程的概念,而多进程就是Python实现并发编程的三种方式之一。

Python中多进程的创建方式

Python为我们提供了两种方式来实现多进程:系统的fork( )函数和multiprocessing

模块。其中multiprocessing模块是我们使用多进程的主要方式。

  • 系统的fork( )函数

Unix和Linux操作系统提供了fork( )系统调用来创建进程,调用fork( )函数的是父进程,创建出的是子进程,子进程就是父进程的一个拷贝,但是子进程拥有自己的PID(进程标识)。

fork( )函数非常特殊,它会返回两次,父进程中可以通过fork( )函数的返回值得到子进程的PID,而子进程中的返回值永远都是0。

因此,在Unix和Linux操作系统中,Python的os模块也拥有fork( )函数。

fork( )函数可以创建子进程,通过子进程实现多进程。可以看到,通过创建子进程,耗时从原来的9秒左右缩短到5秒左右。

  • multiprocessing模块

由于Windows系统中没有fork调用,因此我们在Windows系统中使用os.fork( )是无法运行的。

为了实现跨平台的多进程编程,Python为我们提供了multiprocessing模块。该模块中的Process类可以创建子进程,而且该模块还提供了更高级的封装,例如批量启动进程的进程池、用于进程间通信的队列和管道等。

因此,在Python的实际开发过程中,我们更多地是使用multiprocessing模块来实现多进程。

上述代码中,我们通过multiprocessing模块的Process类创建了进程对象,target参数表示目标函数,即进程启动后要执行的代码,args参数是目标函数所需要的参数,用一个元组接收。Process的start( )方法用于启动进程,而join( )方法表示等待进程执行结束再继续往下运行。

我们运行上述代码,可以发现两个下载任务一起执行,从而大大缩短了程序的执行时间。并且与fork( )函数相比,这种方式更加清晰。

进程池Pool

当下载文件增多,需要大量子进程时,我们也可以使用multiprocessing模块中的进程池Pool。假设现在有5个文件待下载,我们通过进程池Pool来实现并发下载。

上述代码中,我们创建了一个Pool对象,然后通过循环调用apply_async( )方法来创建进程。创建结束调用close( )方法,调用此方法后进程池就不能继续添加新的进程了。最后调用join( )方法等待所有子进程执行完毕。

从运行结果我们看到,程序并没有像我们预计地5个文件一起下载,而是先下载其中四个,直到四个中有一个下载完成才开始第5个。这是因为Pool线程池是有默认大小的,在我电脑上默认就是4,因此,最多同时执行4个进程。

如果你想同时执行5个,需要在创建Pool对象时传入一个5即可,p = Pool(5)。

进程间的通信

进程与进程之间有时也需要通信,在介绍进程的基本概念中我们提到,操作系统提供了很多机制来实现进程间的通信。Python的multiprocessing模块也包装了操作系统底层的机制,提供了对列(Queue)、管道(Pipes)等多种方式来实现数据共享。

下面我们以对列Queue为例,首先创建两个子进程,其中,一个往对列中写数据,一个从对列中读数据。

上述代码中,我们首先创建对列对象,然后创建两个进程分别用于数据的读和写。通过对列的put/get方法实现了两个进程之间的数据共享。

总结

以上内容介绍了进程的基本概念以及Python中多进程的使用方法,需要重点理解进程的概念。熟练掌握多进程的创建方法和各种基本操作。感谢大家的支持与关注,欢迎一起学习交流~

相关推荐

python import 出现 ModuleNotFoundError 解决方法

错误的原因是你的Python环境没有正确安装库文件。本文以Scapy为例,给出详细方案:1.确认是否成功安装Scapy运行以下命令检查Scapy是否已安装:pip3list|gre...

Github 7.4k star,一个强大的 Python 库-sh!

大家好,今天为大家分享一个强大的Python库-sh。Github地址:https://github.com/amoffat/shsh库是Python生态系统中一个专门用于执行系统命令的第三方...

学习编程第148天 python编程循环的嵌套使用

今天学习的是刘金玉老师零基础Python教程第32期,主要内容是python编程循环的嵌套使用。(一)一维数组及输出#一维数组list1=["110001","四川二流子...

2025-07-09:使数组元素互不相同所需的最少操作次数。用go语言,

2025-07-09:使数组元素互不相同所需的最少操作次数。用go语言,给定一个整数数组nums和一个整数k,对于数组中的每个元素,你最多可以对其进行一次操作:将一个在区间[-k,k]内的...

python数据分析numpy基础之max求数组最大值

1python数据分析numpy基础之max求数组最大值python的numpy库的max()函数,用于计算沿指定轴(一个轴或多个轴)的最大值。用法numpy.max(a,axis=None,...

加快Python算法的四个方法(四)Dask

CDA数据分析师出品相信大家在做一些算法经常会被庞大的数据量所造成的超多计算量需要的时间而折磨的痛苦不已,接下来我们围绕四个方法来帮助大家加快一下Python的计算时间,减少大家在算法上的等待时间。...

六十六、Leetcode数组系列(中篇)(leetcode679)

@Author:Runsen@Date:2020/6/8人生最重要的不是所站的位置,而是内心所朝的方向。只要我在每篇博文中写得自己体会,修炼身心;在每天的不断重复学习中,耐住寂寞,练就真功,不畏艰难...

Numpy中的ndarray是什么?('numpy.ndarray' object has no attribute 'append')

1.创建ndarray创建数组最简单的办法就是使用array函数。它接受一切序列型的对象(包括其他数组),然后产生一个新的含有传入数据的Numpy数组。np.array会尝试为新建的这个数组推断出一个...

Python中的数据导入与查询(python怎样导入数据库)

适用场景:快速导入文本/Excel数据→Pandas读取大型数值数据→Numpy处理复杂二进制文件→h5py/scipy.io数据库交互→SQLAlchemy+Pandas一、数据...

2025-07-02:统计数组中的美丽分割。用go语言,给定一个整数数组

2025-07-02:统计数组中的美丽分割。用go语言,给定一个整数数组nums,我们要把它划分成三个连续且非空的子数组nums1、nums2、nums3,且这三个子数组按顺序拼接后还原为原数组...

2025-07-10:字符相同的最短子字符串Ⅰ。用go语言,给定一个长度

2025-07-10:字符相同的最短子字符串Ⅰ。用go语言,给定一个长度为n的二进制字符串s和一个允许执行的最大操作次数numOps。每次操作可以选择字符串中的任意一个位置i(0≤i...

2025-06-19:识别数组中的最大异常值。用go语言,你有一个长度为

2025-06-19:识别数组中的最大异常值。用go语言,你有一个长度为n的整数数组nums,其中恰好有n-2个元素属于“特殊数字”类别。剩下的两个元素中,一个等于所有这些特殊数字的总和,另...

2025-06-28:长度可被 K 整除的子数组的最大元素和。用go语言,给

2025-06-28:长度可被K整除的子数组的最大元素和。用go语言,给定一个整数数组nums和一个整数k,求nums中长度为k的倍数的非空子数组中,子数组和的最大值。返回该最大和...

在 Python 中如何向一个已排序的数组(列表) 中插入一个数呢

在Python中如何向一个已排序的数组(列表)中插入一个数呢?方法有很多种,关键在于原来数组是什么样的排序,用到啥排序方法效率高,就用哪种。我们来练习其中的几种插入方法,另外也掌握下遍历数组的...

2025-07-04:统计符合条件长度为 3 的子数组数目。用go语言,给定

2025-07-04:统计符合条件长度为3的子数组数目。用go语言,给定一个整数数组nums,请你计算有多少个长度恰好为3的连续子数组满足这样的条件:子数组的第一个元素与第三个元素的和,正好...

取消回复欢迎 发表评论: