百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

Python 并发编程实战:从基础到实战应用

off999 2025-08-06 22:32 42 浏览 0 评论

并发编程是提升 Python 程序效率的关键技能,尤其在处理多任务场景时作用显著。本文将系统介绍 Python 中主流的并发实现方式,帮助你根据场景选择最优方案。

一、多线程编程(threading)

核心特点:共享进程内存,适合 I/O 密集型任务(如网络请求、文件读写),受 GIL(全局解释器锁)限制,无法真正并行执行 CPU 密集型任务。

基础用法

import threading

import time

def task(name):

print(f"任务 {name} 开始")

time.sleep(2) # 模拟I/O操作(不占用CPU)

print(f"任务 {name} 完成")

# 创建并启动线程

threads = []

for i in range(3):

t = threading.Thread(target=task, args=(f"Thread-{i}",))

threads.append(t)

t.start()

# 等待所有线程结束

for t in threads:

t.join()

print("所有任务完成")

线程同步(解决资源竞争)

当多个线程操作同一资源时,需用锁保证数据一致性:

from threading import Lock

import time

lock = Lock()

counter = 0

def increment():

global counter

with lock: # 自动获取和释放锁,避免死锁风险

temp = counter

time.sleep(0.1) # 模拟处理过程

counter = temp + 1

# 多线程计数

threads = [threading.Thread(target=increment) for _ in range(10)]

for t in threads:

t.start()

for t in threads:

t.join()

print(f"最终计数:{counter}") # 正确输出10

二、多进程编程(multiprocessing)

核心特点:独立内存空间,可绕过 GIL 实现真正并行,适合 CPU 密集型任务(如计算、图像处理),但进程间通信成本较高。

基础用法

from multiprocessing import Process

import os

def compute_square(number):

result = number * number

print(f"进程 {os.getpid()} 计算:{number} 的平方是 {result}")

return result

if __name__ == '__main__': # Windows系统必须加此判断

numbers = [1, 2, 3, 4, 5]

processes = []


for num in numbers:

p = Process(target=compute_square, args=(num,))

processes.append(p)

p.start()


for p in processes:

p.join() # 等待进程结束


print("所有进程完成")

进程池(高效管理多进程)

from multiprocessing import Pool

def process_data(data):

return data * 2 # 模拟数据处理

if __name__ == '__main__':

with Pool(4) as pool: # 4个工作进程

inputs = [1, 2, 3, 4, 5, 6, 7, 8]

results = pool.map(process_data, inputs) # 批量处理

print(results) # 输出 [2, 4, 6, 8, 10, 12, 14, 16]

三、异步编程(asyncio)

核心特点:单线程内的协程并发,通过事件循环实现非阻塞 I/O,效率高于多线程,适合高并发 I/O 场景(如异步爬虫、API 服务)。

基础用法

import asyncio

async def fetch_data(task_id, delay):

print(f"任务 {task_id} 开始")

await asyncio.sleep(delay) # 非阻塞等待(不占用线程)

print(f"任务 {task_id} 完成")

return f"结果-{task_id}"

async def main():

# 并发运行多个协程

tasks = [

fetch_data(1, 2),

fetch_data(2, 1),

fetch_data(3, 3)

]


results = await asyncio.gather(*tasks) # 等待所有任务完成

print(f"所有任务结果:{results}")

asyncio.run(main()) # 启动事件循环(Python 3.7+)

异步网络请求示例

import aiohttp

import asyncio

async def fetch_url(url):

async with aiohttp.ClientSession() as session: # 异步HTTP客户端

async with session.get(url) as response:

return await response.text() # 非阻塞读取响应

async def main():

urls = [

'https://www.example.com',

'https://www.python.org',

'https://www.github.com'

]


tasks = [fetch_url(url) for url in urls]

pages = await asyncio.gather(*tasks) # 并发请求


for url, content in zip(urls, pages):

print(f"{url} 返回 {len(content)} 字节")

asyncio.run(main())

四、高级并发工具(concurrent.futures)

提供统一接口,可无缝切换线程池/进程池,简化并发代码。

from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor

import time

def task(n):

time.sleep(1) # 模拟任务耗时

return n * n

# 线程池(适合I/O密集型)

with ThreadPoolExecutor(max_workers=3) as executor:

results = list(executor.map(task, range(5))) # 批量执行

print(f"线程池结果:{results}")

# 进程池(适合CPU密集型)

with ProcessPoolExecutor(max_workers=3) as executor:

results = list(executor.map(task, range(5)))

print(f"进程池结果:{results}")

五、并发方式选择指南

任务类型 推荐方式 适用场景

I/O 密集型 异步编程(asyncio) 高并发网络请求、API服务

I/O 密集型 多线程(threading) 简单I/O任务(如文件处理)

CPU 密集型 多进程(multiprocessing) 数学计算、图像/视频处理

代码简洁优先 concurrent.futures 快速实现,需灵活切换线程/进程

六、实战案例:并发文件下载器

import os

import time

import requests

from concurrent.futures import ThreadPoolExecutor

def download_file(url, save_path):

"""下载文件并返回结果信息"""

start_time = time.time()

try:

response = requests.get(url, stream=True) # 流式下载

with open(save_path, 'wb') as f:

for chunk in response.iter_content(chunk_size=8192):

if chunk:

f.write(chunk)

file_size = os.path.getsize(save_path) / 1024 # 转换为KB

耗时 = time.time() - start_time

return f"成功:{url}({file_size:.2f}KB,耗时{耗时:.2f}秒)"

except Exception as e:

return f"失败:{url}(错误:{str(e)})"

def main():

# 待下载文件列表

files = [

("https://example.com/file1.zip", "file1.zip"),

("https://example.com/file2.zip", "file2.zip"),

("https://example.com/file3.zip", "file3.zip"),

]


# 并发下载(线程池适合网络I/O)

with ThreadPoolExecutor(max_workers=3) as executor:

# 提交所有任务

futures = [executor.submit(download_file, url, path) for url, path in files]

# 获取结果

for future in futures:

print(future.result())

if __name__ == '__main__':

main()

七、常见问题与解决方案

1. 死锁:避免嵌套锁,使用 with 语句自动释放锁,设置超时时间(如 lock.acquire(timeout=5))。

2. 资源竞争:对共享资源操作加锁(线程)或用队列(进程),优先使用线程安全的数据结构。

3. 异常处理:在并发任务中捕获异常,避免单个任务失败导致整体崩溃:

from concurrent.futures import as_completed

with ThreadPoolExecutor() as executor:

futures = {executor.submit(task, i): i for i in range(5)}

for future in as_completed(futures):

try:

result = future.result()

except Exception as e:

print(f"任务 {futures[future]} 出错:{e}")

else:

print(f"任务 {futures[future]} 结果:{result}")

通过合理选择并发方式,可显著提升 Python 程序的执行效率。实际开发中需结合任务类型、代码复杂度和维护成本综合考量,优先使用高级接口(如 asyncio、concurrent.futures)简化实现。

#p y t hon##python打卡##python自学##分享我的头条荣誉##爆料##在头条记录我的2025#

相关推荐

android13正式版下载(安卓版本13)

出现该问题的原因是,用户在设置里开启了新下载的APP,仅添加到APP资源库选项。大家只要进入“设置-主屏幕”,把新下载的APP,改为“添加到主屏幕”即可解决问题。修改完成后,你再进入AppStore下...

firefox浏览器安卓版(firefox浏览器安卓版 打开本地网页)

要进入火狐浏览器手机版的主页,你可以通过以下几种方式进行:首先,打开火狐浏览器App,然后点击右上角的三条横线菜单按钮,接着选择“主页”选项。另外,你也可以直接在浏览器地址栏中输入“about:hom...

电脑cpu性能排行榜天梯图(“电脑cpu性能天梯图”)

一、英特尔酷睿i7670。这款英特尔CPU采用的是超频新芯,最大程度的提升处理器的超频能力。二、英特尔酷睿i74790kCPU:这款CPU采用22纳米制程工艺的框架,它的默认频率是4.0到4.4Ghz...

硬盘怎么分区合理(硬盘怎么分区合理一点)
  • 硬盘怎么分区合理(硬盘怎么分区合理一点)
  • 硬盘怎么分区合理(硬盘怎么分区合理一点)
  • 硬盘怎么分区合理(硬盘怎么分区合理一点)
  • 硬盘怎么分区合理(硬盘怎么分区合理一点)
路由器怎么设置密码不被别人蹭网
  • 路由器怎么设置密码不被别人蹭网
  • 路由器怎么设置密码不被别人蹭网
  • 路由器怎么设置密码不被别人蹭网
  • 路由器怎么设置密码不被别人蹭网
电脑自由截屏的快捷键是什么

快捷键是ctrl+alt+a,我们可将聊天窗口缩小,放在旁边。然后找到想要截屏的位置,这时我们在截屏旁边,就更加的方便了。在键盘中按下PrintScreenSysRq(简写为PrtSc)键,此快捷...

windows10精简版官网下载(win10官方精简版下载)

精简版的意思的它比原版的功能和软件少了,其实精简版的更适合大众,没有多余的其他必要功能,更快Win10版本主要为四个分别是专业版、家庭版、企业版、教育版,其实除了这四个之外,还有工作站版、LTSB/L...

cad2008安装失败(Win11安装cad2008安装失败)

解决方法:1、右键点击“开始”按钮,选择“程序和功能”;2、然后点击“启用或关闭windows功能”;3、勾选“Microsoft.NETFramework3.5(包括.Net2.0)”后点击确定按钮...

u盘在电脑上怎么找出来(u盘在电脑上怎么找到)

在电脑中找不到u盘,是因为系统没有自动识别出来,手动打开即可,具体的解决步骤如下:1、在桌面上点击我的电脑,右键,管理。2、打开管理界面,点击储存。3、进到储存页面。4、到这一步,也就可以看到了,有这...

联想一体机怎么进入bios(联想一体机怎么进入u盘启动)

所需工具:联想Lenovo品牌一体机、启动U盘。具体步骤如下:1、联想一体机从U盘启动设置步骤如下重启联想一体机,启动过程中按F1进入BIOS,部分机型则是开机按Enter键,进入之后再按F12选择进...

如何装ghost系统盘(ghost装机教程)

ghost是不能做系统c盘,它是一种对硬盘和分区制作成映像文件进行备份和恢复的工具软件,是不能进行操作系统安装。这个软件的使用目的是,当我们安装配置好操作系统以后,用ghost软件对c盘进行备份,或者...

加密u盘如何格式化(加密u盘如何格式化手机)

1,点击系统与安全进入电脑的控制面板界面,点击上方的系统与安全的选项,在系统界面找到最下方的管理工具功能组。2,选中u盘选择管理工具下面的创建并格式化硬盘分区,点击弹出磁盘管理的界面,在这个里面选中你...

万能显卡驱动离线版pc(万能显卡驱动离线版)

万用驱动是综合各电脑硬件的性能而制做的软件,对于大多数的电脑硬件驱动都好用,但对于少数品牌电脑驱动要求严格的,就不灵了。有的硬件用万能驱动后,使用效果不佳,就是因为没有完全驱动好。所以,知名品牌电脑硬...

如何让电脑一键还原(电脑怎样才能一键还原)
  • 如何让电脑一键还原(电脑怎样才能一键还原)
  • 如何让电脑一键还原(电脑怎样才能一键还原)
  • 如何让电脑一键还原(电脑怎样才能一键还原)
  • 如何让电脑一键还原(电脑怎样才能一键还原)
笔记本windows8系统下载(笔记本电脑系统win8)

在电脑上面就可以下载,打开浏览器搜索windous8系统会出现一些下拉选择,选择第一条或者选择有官网字样的,就直接有下载按钮,然后点击下载就可以了win8可以支持现在可以见到的所有Photosho...

取消回复欢迎 发表评论: