Python 并发编程实战:从基础到实战应用
off999 2025-08-06 22:32 62 浏览 0 评论
并发编程是提升 Python 程序效率的关键技能,尤其在处理多任务场景时作用显著。本文将系统介绍 Python 中主流的并发实现方式,帮助你根据场景选择最优方案。
一、多线程编程(threading)
核心特点:共享进程内存,适合 I/O 密集型任务(如网络请求、文件读写),受 GIL(全局解释器锁)限制,无法真正并行执行 CPU 密集型任务。
基础用法
import threading
import time
def task(name):
print(f"任务 {name} 开始")
time.sleep(2) # 模拟I/O操作(不占用CPU)
print(f"任务 {name} 完成")
# 创建并启动线程
threads = []
for i in range(3):
t = threading.Thread(target=task, args=(f"Thread-{i}",))
threads.append(t)
t.start()
# 等待所有线程结束
for t in threads:
t.join()
print("所有任务完成")
线程同步(解决资源竞争)
当多个线程操作同一资源时,需用锁保证数据一致性:
from threading import Lock
import time
lock = Lock()
counter = 0
def increment():
global counter
with lock: # 自动获取和释放锁,避免死锁风险
temp = counter
time.sleep(0.1) # 模拟处理过程
counter = temp + 1
# 多线程计数
threads = [threading.Thread(target=increment) for _ in range(10)]
for t in threads:
t.start()
for t in threads:
t.join()
print(f"最终计数:{counter}") # 正确输出10
二、多进程编程(multiprocessing)
核心特点:独立内存空间,可绕过 GIL 实现真正并行,适合 CPU 密集型任务(如计算、图像处理),但进程间通信成本较高。
基础用法
from multiprocessing import Process
import os
def compute_square(number):
result = number * number
print(f"进程 {os.getpid()} 计算:{number} 的平方是 {result}")
return result
if __name__ == '__main__': # Windows系统必须加此判断
numbers = [1, 2, 3, 4, 5]
processes = []
for num in numbers:
p = Process(target=compute_square, args=(num,))
processes.append(p)
p.start()
for p in processes:
p.join() # 等待进程结束
print("所有进程完成")
进程池(高效管理多进程)
from multiprocessing import Pool
def process_data(data):
return data * 2 # 模拟数据处理
if __name__ == '__main__':
with Pool(4) as pool: # 4个工作进程
inputs = [1, 2, 3, 4, 5, 6, 7, 8]
results = pool.map(process_data, inputs) # 批量处理
print(results) # 输出 [2, 4, 6, 8, 10, 12, 14, 16]
三、异步编程(asyncio)
核心特点:单线程内的协程并发,通过事件循环实现非阻塞 I/O,效率高于多线程,适合高并发 I/O 场景(如异步爬虫、API 服务)。
基础用法
import asyncio
async def fetch_data(task_id, delay):
print(f"任务 {task_id} 开始")
await asyncio.sleep(delay) # 非阻塞等待(不占用线程)
print(f"任务 {task_id} 完成")
return f"结果-{task_id}"
async def main():
# 并发运行多个协程
tasks = [
fetch_data(1, 2),
fetch_data(2, 1),
fetch_data(3, 3)
]
results = await asyncio.gather(*tasks) # 等待所有任务完成
print(f"所有任务结果:{results}")
asyncio.run(main()) # 启动事件循环(Python 3.7+)
异步网络请求示例
import aiohttp
import asyncio
async def fetch_url(url):
async with aiohttp.ClientSession() as session: # 异步HTTP客户端
async with session.get(url) as response:
return await response.text() # 非阻塞读取响应
async def main():
urls = [
'https://www.example.com',
'https://www.python.org',
'https://www.github.com'
]
tasks = [fetch_url(url) for url in urls]
pages = await asyncio.gather(*tasks) # 并发请求
for url, content in zip(urls, pages):
print(f"{url} 返回 {len(content)} 字节")
asyncio.run(main())
四、高级并发工具(concurrent.futures)
提供统一接口,可无缝切换线程池/进程池,简化并发代码。
from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor
import time
def task(n):
time.sleep(1) # 模拟任务耗时
return n * n
# 线程池(适合I/O密集型)
with ThreadPoolExecutor(max_workers=3) as executor:
results = list(executor.map(task, range(5))) # 批量执行
print(f"线程池结果:{results}")
# 进程池(适合CPU密集型)
with ProcessPoolExecutor(max_workers=3) as executor:
results = list(executor.map(task, range(5)))
print(f"进程池结果:{results}")
五、并发方式选择指南
任务类型 推荐方式 适用场景
I/O 密集型 异步编程(asyncio) 高并发网络请求、API服务
I/O 密集型 多线程(threading) 简单I/O任务(如文件处理)
CPU 密集型 多进程(multiprocessing) 数学计算、图像/视频处理
代码简洁优先 concurrent.futures 快速实现,需灵活切换线程/进程
六、实战案例:并发文件下载器
import os
import time
import requests
from concurrent.futures import ThreadPoolExecutor
def download_file(url, save_path):
"""下载文件并返回结果信息"""
start_time = time.time()
try:
response = requests.get(url, stream=True) # 流式下载
with open(save_path, 'wb') as f:
for chunk in response.iter_content(chunk_size=8192):
if chunk:
f.write(chunk)
file_size = os.path.getsize(save_path) / 1024 # 转换为KB
耗时 = time.time() - start_time
return f"成功:{url}({file_size:.2f}KB,耗时{耗时:.2f}秒)"
except Exception as e:
return f"失败:{url}(错误:{str(e)})"
def main():
# 待下载文件列表
files = [
("https://example.com/file1.zip", "file1.zip"),
("https://example.com/file2.zip", "file2.zip"),
("https://example.com/file3.zip", "file3.zip"),
]
# 并发下载(线程池适合网络I/O)
with ThreadPoolExecutor(max_workers=3) as executor:
# 提交所有任务
futures = [executor.submit(download_file, url, path) for url, path in files]
# 获取结果
for future in futures:
print(future.result())
if __name__ == '__main__':
main()
七、常见问题与解决方案
1. 死锁:避免嵌套锁,使用 with 语句自动释放锁,设置超时时间(如 lock.acquire(timeout=5))。
2. 资源竞争:对共享资源操作加锁(线程)或用队列(进程),优先使用线程安全的数据结构。
3. 异常处理:在并发任务中捕获异常,避免单个任务失败导致整体崩溃:
from concurrent.futures import as_completed
with ThreadPoolExecutor() as executor:
futures = {executor.submit(task, i): i for i in range(5)}
for future in as_completed(futures):
try:
result = future.result()
except Exception as e:
print(f"任务 {futures[future]} 出错:{e}")
else:
print(f"任务 {futures[future]} 结果:{result}")
通过合理选择并发方式,可显著提升 Python 程序的执行效率。实际开发中需结合任务类型、代码复杂度和维护成本综合考量,优先使用高级接口(如 asyncio、concurrent.futures)简化实现。
相关推荐
- 安全教育登录入口平台(安全教育登录入口平台官网)
-
122交通安全教育怎么登录:122交通网的注册方法是首先登录网址http://www.122.cn/,接着打开网页后,点击右上角的“个人登录”;其次进入邮箱注册,然后进入到注册页面,输入相关信息即可完...
- 大鱼吃小鱼经典版(大鱼吃小鱼经典版(经典版)官方版)
-
大鱼吃小鱼小鱼吃虾是于谦跟郭麒麟的《我的棒儿呢?》郭德纲说于思洋郭麒麟作诗的相声,最后郭麒麟做了一首,师傅躺在师母身上大鱼吃小鱼小鱼吃虾虾吃水水落石出师傅压师娘师娘压床床压地地动山摇。...
-
- 哪个软件可以免费pdf转ppt(免费的pdf转ppt软件哪个好)
-
要想将ppt免费转换为pdf的话,我们建议大家可以下一个那个wps,如果你是会员的话,可以注册为会员,这样的话,在wps里面的话,就可以免费将ppt呢转换为pdfpdf之后呢,我们就可以直接使用,不需要去直接不需要去另外保存,为什么格式转...
-
2026-02-04 09:03 off999
- 电信宽带测速官网入口(电信宽带测速官网入口app)
-
这个网站看看http://www.swok.cn/pcindex.jsp1.登录中国电信网上营业厅,宽带光纤,贴心服务,宽带测速2.下载第三方软件,如360等。进行在线测速进行宽带测速时,尽...
- 植物大战僵尸95版手机下载(植物大战僵尸95 版下载)
-
1可以在应用商店或者游戏平台上下载植物大战僵尸95版手机游戏。2下载教程:打开应用商店或者游戏平台,搜索“植物大战僵尸95版”,找到游戏后点击下载按钮,等待下载完成即可安装并开始游戏。3注意:确...
- 免费下载ppt成品的网站(ppt成品免费下载的网站有哪些)
-
1、Chuangkit(chuangkit.com)直达地址:chuangkit.com2、Woodo幻灯片(woodo.cn)直达链接:woodo.cn3、OfficePlus(officeplu...
- 2025世界杯赛程表(2025世界杯在哪个国家)
-
2022年卡塔尔世界杯赛程公布,全部比赛在卡塔尔境内8座球场举行,2022年,决赛阶段球队全部确定。揭幕战于当地时间11月20日19时进行,由东道主卡塔尔对阵厄瓜多尔,决赛于当地时间12月18日...
- 下载搜狐视频电视剧(搜狐电视剧下载安装)
-
搜狐视频APP下载好的视频想要导出到手机相册里方法如下1、打开手机搜狐视频软件,进入搜狐视频后我们点击右上角的“查找”,找到自已喜欢的视频。2、在“浏览器页面搜索”窗口中,输入要下载的视频的名称,然后...
- 永久免费听歌网站(丫丫音乐网)
-
可以到《我爱音乐网》《好听音乐网》《一听音乐网》《YYMP3音乐网》还可以到《九天音乐网》永久免费听歌软件有酷狗音乐和天猫精灵,以前要跳舞经常要下载舞曲,我从QQ上找不到舞曲下载就从酷狗音乐上找,大多...
- 音乐格式转换mp3软件(音乐格式转换器免费版)
-
有两种方法:方法一在手机上操作:1、进入手机中的文件管理。2、在其中选择“音乐”,将显示出手机中的全部音乐。3、点击“全选”,选中所有音乐文件。4、点击屏幕右下方的省略号图标,在弹出菜单中选择“...
- 电子书txt下载(免费的最全的小说阅读器)
-
1.Z-library里面收录了近千万本电子书籍,需求量大。2.苦瓜书盘没有广告,不需要账号注册,使用起来非常简单,直接搜索预览下载即可。3.鸠摩搜书整体风格简洁清晰,书籍资源丰富。4.亚马逊图书书籍...
- 最好免费观看高清电影(播放免费的最好看的电影)
-
在目前的网上选择中,IMDb(互联网电影数据库)被认为是最全的电影网站之一。这个网站提供了各种类型的电影和电视节目的海量信息,包括剧情介绍、演员表、评价、评论等。其还提供了有关电影制作背后的详细信息,...
- 孤单枪手2简体中文版(孤单枪手2简体中文版官方下载)
-
要将《孤胆枪手2》游戏的征兵秘籍切换为中文,您可以按照以下步骤进行操作:首先,打开游戏设置选项,通常可以在游戏主菜单或游戏内部找到。然后,寻找语言选项或界面选项,点击进入。在语言选项中,选择中文作为游...
欢迎 你 发表评论:
- 一周热门
-
-
抖音上好看的小姐姐,Python给你都下载了
-
全网最简单易懂!495页Python漫画教程,高清PDF版免费下载
-
飞牛NAS部署TVGate Docker项目,实现内网一键转发、代理、jx
-
win7系统还原步骤图解(win7还原电脑系统的步骤)
-
Python 3.14 的 UUIDv6/v7/v8 上新,别再用 uuid4 () 啦!
-
python入门到脱坑 输入与输出—str()函数
-
16949认证费用是多少(16949审核员太难考了)
-
linux软件(linux软件图标)
-
Python三目运算基础与进阶_python三目运算符判断三个变量
-
windows7旗舰版多少钱(win7旗舰版要多少钱)
-
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)
