百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Python 并发编程实战:从基础到实战应用

off999 2025-08-06 22:32 51 浏览 0 评论

并发编程是提升 Python 程序效率的关键技能,尤其在处理多任务场景时作用显著。本文将系统介绍 Python 中主流的并发实现方式,帮助你根据场景选择最优方案。

一、多线程编程(threading)

核心特点:共享进程内存,适合 I/O 密集型任务(如网络请求、文件读写),受 GIL(全局解释器锁)限制,无法真正并行执行 CPU 密集型任务。

基础用法

import threading

import time

def task(name):

print(f"任务 {name} 开始")

time.sleep(2) # 模拟I/O操作(不占用CPU)

print(f"任务 {name} 完成")

# 创建并启动线程

threads = []

for i in range(3):

t = threading.Thread(target=task, args=(f"Thread-{i}",))

threads.append(t)

t.start()

# 等待所有线程结束

for t in threads:

t.join()

print("所有任务完成")

线程同步(解决资源竞争)

当多个线程操作同一资源时,需用锁保证数据一致性:

from threading import Lock

import time

lock = Lock()

counter = 0

def increment():

global counter

with lock: # 自动获取和释放锁,避免死锁风险

temp = counter

time.sleep(0.1) # 模拟处理过程

counter = temp + 1

# 多线程计数

threads = [threading.Thread(target=increment) for _ in range(10)]

for t in threads:

t.start()

for t in threads:

t.join()

print(f"最终计数:{counter}") # 正确输出10

二、多进程编程(multiprocessing)

核心特点:独立内存空间,可绕过 GIL 实现真正并行,适合 CPU 密集型任务(如计算、图像处理),但进程间通信成本较高。

基础用法

from multiprocessing import Process

import os

def compute_square(number):

result = number * number

print(f"进程 {os.getpid()} 计算:{number} 的平方是 {result}")

return result

if __name__ == '__main__': # Windows系统必须加此判断

numbers = [1, 2, 3, 4, 5]

processes = []


for num in numbers:

p = Process(target=compute_square, args=(num,))

processes.append(p)

p.start()


for p in processes:

p.join() # 等待进程结束


print("所有进程完成")

进程池(高效管理多进程)

from multiprocessing import Pool

def process_data(data):

return data * 2 # 模拟数据处理

if __name__ == '__main__':

with Pool(4) as pool: # 4个工作进程

inputs = [1, 2, 3, 4, 5, 6, 7, 8]

results = pool.map(process_data, inputs) # 批量处理

print(results) # 输出 [2, 4, 6, 8, 10, 12, 14, 16]

三、异步编程(asyncio)

核心特点:单线程内的协程并发,通过事件循环实现非阻塞 I/O,效率高于多线程,适合高并发 I/O 场景(如异步爬虫、API 服务)。

基础用法

import asyncio

async def fetch_data(task_id, delay):

print(f"任务 {task_id} 开始")

await asyncio.sleep(delay) # 非阻塞等待(不占用线程)

print(f"任务 {task_id} 完成")

return f"结果-{task_id}"

async def main():

# 并发运行多个协程

tasks = [

fetch_data(1, 2),

fetch_data(2, 1),

fetch_data(3, 3)

]


results = await asyncio.gather(*tasks) # 等待所有任务完成

print(f"所有任务结果:{results}")

asyncio.run(main()) # 启动事件循环(Python 3.7+)

异步网络请求示例

import aiohttp

import asyncio

async def fetch_url(url):

async with aiohttp.ClientSession() as session: # 异步HTTP客户端

async with session.get(url) as response:

return await response.text() # 非阻塞读取响应

async def main():

urls = [

'https://www.example.com',

'https://www.python.org',

'https://www.github.com'

]


tasks = [fetch_url(url) for url in urls]

pages = await asyncio.gather(*tasks) # 并发请求


for url, content in zip(urls, pages):

print(f"{url} 返回 {len(content)} 字节")

asyncio.run(main())

四、高级并发工具(concurrent.futures)

提供统一接口,可无缝切换线程池/进程池,简化并发代码。

from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor

import time

def task(n):

time.sleep(1) # 模拟任务耗时

return n * n

# 线程池(适合I/O密集型)

with ThreadPoolExecutor(max_workers=3) as executor:

results = list(executor.map(task, range(5))) # 批量执行

print(f"线程池结果:{results}")

# 进程池(适合CPU密集型)

with ProcessPoolExecutor(max_workers=3) as executor:

results = list(executor.map(task, range(5)))

print(f"进程池结果:{results}")

五、并发方式选择指南

任务类型 推荐方式 适用场景

I/O 密集型 异步编程(asyncio) 高并发网络请求、API服务

I/O 密集型 多线程(threading) 简单I/O任务(如文件处理)

CPU 密集型 多进程(multiprocessing) 数学计算、图像/视频处理

代码简洁优先 concurrent.futures 快速实现,需灵活切换线程/进程

六、实战案例:并发文件下载器

import os

import time

import requests

from concurrent.futures import ThreadPoolExecutor

def download_file(url, save_path):

"""下载文件并返回结果信息"""

start_time = time.time()

try:

response = requests.get(url, stream=True) # 流式下载

with open(save_path, 'wb') as f:

for chunk in response.iter_content(chunk_size=8192):

if chunk:

f.write(chunk)

file_size = os.path.getsize(save_path) / 1024 # 转换为KB

耗时 = time.time() - start_time

return f"成功:{url}({file_size:.2f}KB,耗时{耗时:.2f}秒)"

except Exception as e:

return f"失败:{url}(错误:{str(e)})"

def main():

# 待下载文件列表

files = [

("https://example.com/file1.zip", "file1.zip"),

("https://example.com/file2.zip", "file2.zip"),

("https://example.com/file3.zip", "file3.zip"),

]


# 并发下载(线程池适合网络I/O)

with ThreadPoolExecutor(max_workers=3) as executor:

# 提交所有任务

futures = [executor.submit(download_file, url, path) for url, path in files]

# 获取结果

for future in futures:

print(future.result())

if __name__ == '__main__':

main()

七、常见问题与解决方案

1. 死锁:避免嵌套锁,使用 with 语句自动释放锁,设置超时时间(如 lock.acquire(timeout=5))。

2. 资源竞争:对共享资源操作加锁(线程)或用队列(进程),优先使用线程安全的数据结构。

3. 异常处理:在并发任务中捕获异常,避免单个任务失败导致整体崩溃:

from concurrent.futures import as_completed

with ThreadPoolExecutor() as executor:

futures = {executor.submit(task, i): i for i in range(5)}

for future in as_completed(futures):

try:

result = future.result()

except Exception as e:

print(f"任务 {futures[future]} 出错:{e}")

else:

print(f"任务 {futures[future]} 结果:{result}")

通过合理选择并发方式,可显著提升 Python 程序的执行效率。实际开发中需结合任务类型、代码复杂度和维护成本综合考量,优先使用高级接口(如 asyncio、concurrent.futures)简化实现。

#p y t hon##python打卡##python自学##分享我的头条荣誉##爆料##在头条记录我的2025#

相关推荐

电信宽带办理电话是多少(电信宽带办理联系电话)

电信宽带不一定需要电信手机号码,可以根据自身需要选择,有单独的宽带业务,一般要求预存一定时间的使用费。不过一般包含了宽带、手机号码的融合套餐总体上更优惠,对客户来说更划算。如果有相应需求的话,建议同时...

开机进入ghost启动项(电脑启动进入ghost)

电脑启动的时候进入GHOST界面方法:  1、首先确认电脑装了GHOST软件。  2、重启电脑,注意仔细观察电脑屏幕,会有一个3s或者10s的选择界面。让选择是进入GHOST界面,或者正常启动进入系...

华硕bios修复蓝屏图解(华硕bios修复蓝屏视频教程)

先看下BIOS是否可以识别到硬盘设备,若看不到,硬盘故障的可能性很大。若可以看到硬盘,建议先尝试进行BIOS兼容性设置:1,在BIOS界面,通过方向键进【Secure】菜单,通过方向键选择【Sec...

老电脑怎么装win7系统(老电脑装win7系统可以吗)

6年前的电脑,如果是用的当时最新的CPU的话,应该是第7代或者第6代酷睿等级的。运行windows7和windows10都应该没有压力。从软件的兼容性来说,还是建议安装windows10,因为现在有好...

电脑怎么设置到点自动关机(电脑怎样设置到点关机)

1、首先我们点击电脑屏幕左下角的开始按钮,在所有程序里依次选择附件---系统工具,接着打开任务计划程序。2、我们打开任务计划程序后,在最右边的操作框里选择创建基本任务,然后在创建基本任务对话框的名称一...

2025年笔记本电脑排行榜(20201年笔记本电脑推荐)

2023华为笔记本电脑matebook16系列很好用的。因为这个系列她是有非常好的性价,比的是能够让你有非常轻薄的厚度,并且能够有11.6寸的屏幕,而且还有120赫兹的刷新率作为大学生,您可能需要经常...

powerpoint激活密钥(ppt密钥 激活码2010)

1/4进入文件打开一个PPT文件进入到软件界面,在界面左上方找到文件选项,点击该选项进入到文件页面。2/4点击账户文件页面中,页面左侧找到账户选项,点击该选项,页面右侧会出现相应的操作选择。3/4点击...

水星usb无线网卡驱动下载(水星usb无线网卡驱动下载安装)
  • 水星usb无线网卡驱动下载(水星usb无线网卡驱动下载安装)
  • 水星usb无线网卡驱动下载(水星usb无线网卡驱动下载安装)
  • 水星usb无线网卡驱动下载(水星usb无线网卡驱动下载安装)
  • 水星usb无线网卡驱动下载(水星usb无线网卡驱动下载安装)
qq恢复删除好友官网(qq恢复已删好友)
qq恢复删除好友官网(qq恢复已删好友)

qq恢复官方网站,http://huifu.qq.com/1、什么是QQ恢复系统?QQ恢复系统是腾讯公司提供的一项找回QQ联系人、QQ群的服务,向所有QQ用户免费开放。2、QQ恢复系统能恢复多长时间内删除的好友?普通用户可以申请恢复3个月内...

2025-12-28 16:03 off999

优启通u盘重装win7系统教程(优启通u盘装win7系统教程图解)

系统显示未找到万能驱动的解决方法是:1、重插下usb口1、造成“找不到驱动器设备驱动程序”的原因,可能是usb口出现问题。2、换个usb口可能是单独这个usb口出现问题,可以选择另外的usb口重试wi...

笔记本mac地址在哪看(笔记本电脑mac地址怎么查询)
  • 笔记本mac地址在哪看(笔记本电脑mac地址怎么查询)
  • 笔记本mac地址在哪看(笔记本电脑mac地址怎么查询)
  • 笔记本mac地址在哪看(笔记本电脑mac地址怎么查询)
  • 笔记本mac地址在哪看(笔记本电脑mac地址怎么查询)
wifi加密方式怎么设置(wifi网络加密怎么设置)

若你想将自己的无线网改成加密的,可以按照以下步骤操作:1.打开你的路由器管理界面。一般来说,在浏览器地址栏输入“192.168.1.1”或“192.168.0.1”,然后输入用户名和密码登录就可以打...

sql数据库自学(数据库入门必看——《sql基础教程》)

SQLServer数据库基础知识:1.数据库是由数据组成的,这些数据可以被组织成有序的数据结构,以支持特定的应用程序。2.数据库管理系统(DBMS)是一种软件工具,用于创建、管理和操作数据库。...

无线网连接不可上网怎么回事

可能有几下几方面原因:1、无线路由器网络参数设置错误,无法拨通ISP运营商的局端设备,无法接入互联网;2、宽带线路出现故障,路由器无法拨通ISP运营商的局端设备,无法连通;3、宽带DNS服务器由于某种...

电脑蓝屏重新启动(电脑蓝屏重新启动快捷键)
  • 电脑蓝屏重新启动(电脑蓝屏重新启动快捷键)
  • 电脑蓝屏重新启动(电脑蓝屏重新启动快捷键)
  • 电脑蓝屏重新启动(电脑蓝屏重新启动快捷键)
  • 电脑蓝屏重新启动(电脑蓝屏重新启动快捷键)

取消回复欢迎 发表评论: