Python程序性能调试和优化
off999 2024-11-23 20:37 13 浏览 0 评论
一直以来Python性能是遭人诟病的问题之一,抱怨执行慢,没法用。虽然再性能上语言的差异确实存在着明显差异,但是我认为一个非常流行的语言,运行的快慢不会成为阻扰人们使用的因素。如果是的话,可能是由于编写的程序有问题,需要优化。本文虫虫就给大家介绍一下如何调试Python应用的性能,以及怎么对其进行优化。
Python性能调试
要进行Python性能,前提条件是要找出程序中的性能瓶颈。找出程序中影响程序性能的代码。有经验的开发者一般都能很容易能找出程序的瓶颈,但对于普通码农找出系统的问题代码则很难,为了能快捷有效的发现程序的性能瓶颈就需要进行性能调试,此处我们以一个实际例子进行介绍,以下程序是计算e的x(1..n)次的幂,其代码如下:
# performance.py
from decimal import *
def exp(x):
getcontext().prec += 2
i, lasts, s, fact, num = 0, 0, 1, 1, 1
while s != lasts:
lasts = s
i += 1
fact *= i
num *= x
s += num / fact
getcontext().prec -= 2
return +s
print(exp(Decimal(150)))
print(exp(Decimal(400)))
print(exp(Decimal(3000)))
最简单的调试
最简单且实用的调试性能调试的方法是使用Linux的time命令,time可以计算程序执行的时间:
time python3 performance.py
1.393709580666379697318341937E+65
5.221469689764143950588763007E+173
7.646200989054704889310727660E+1302
real 0m15.185s
user 0m15.100s
sys 0m0.004s
计算前两个数的(150,400)很快,而第三个大一点时会很慢,总共要15秒多才算完,是有点卡顿(慢)。
time虽然很便捷有用,但是不能给我们详细的代码性能细节。
详细性能分析cProfile
性能分析另一个常用的方法是使用cProfile,它可以提供很多性能信息
python3 -m cProfile -s time performance.py
例子中,我们使用了cProfile模块和time参数运行测试脚本,以便按内部时间(cumtime)对行进行排序。如上图所示,使用cProfile可以给很多内部的具体信息,通过我们可以知道主要耗时是由exp函数导致。知道了程序的性能瓶颈所在,我们就再说明Python性能分析和优化。
优化特定功能
知道了将性能的瓶颈所在(实例中是exp函数),我们为了进一步具体问题具体分析,我们使用一个简单装饰器,以便跳过其他代码,专门分析性能瓶颈所设计的函数。然后使用装饰器进行测试,具体代码如下:
def timeit_wrapper(func):
@wraps(func)
def wrapper(*args, **kwargs):
start = time.perf_counter() # Alternatively, you can use time.process_time()
func_return_val = func(*args, **kwargs)
end = time.perf_counter()
print('{0:<10}.{1:<8} : {2:<8}'.format(func.__module__, func.__name__, end - start))
return func_return_val
return wrapper
我们用这个装饰器来测试exp:
@timeit_wrapper
def exp(x):
...
print('{0:<10} {1:<8} {2:^8}'.format('module', 'function', 'time'))
exp(Decimal(150))
exp(Decimal(400))
exp(Decimal(3000))
结果:
module function time
__main__ .exp : 0.00920036411844194
__main__ .exp : 0.09822067408822477
__main__ .exp : 15.228459489066154
代码中,我们用到了time包提供time.perf_counter函数,它还提供了另外一个函数time.process_time。两者的区别在于perf_counter返回的绝对时间,包括Python程序进程未运行时的时间,它可能会受到计算机负载的影响。而process_time仅返回用户时间(不包括系统时间),这仅是程序过程时间。
性能优化
最后是Python程序的性能优化,为了让Python程序运行得更快,我们提供一些可供参考的性能优化构想和策略的,通过这些策略我们一半可以提高应用的运行速度,最高情况下可以让你的应用快30%。
使用内建数据类型
很明显,内建数据类型非常快,尤其是与自定义类型相比,比如树或者链表。因为内建程序是用C实现的,所以其性能优势是Python代码所无法比拟的。
使用lru_cache缓存/记忆
很多时候缓存非常有效,可以极大的提高性能,尤其在数值计算和涉及大量重复调用(递归)时。考虑一个例子:
上面的函数使用time.sleep(2)模拟一个耗时的代码。第一次使用参数1调用时,它将等待2秒,然后返回结果。再次调用时,由于结果已被缓存,将跳过函数的执行,直返回。用3调用时候由于参数不一样会耗时2秒,总体耗时应该为4s,我们用time 验证:
real 0m4.061s
user 0m0.040s
sys 0m0.015s
这和我们设想的一致。
使用局部变量
基于变量作用域中查找速度相关,在函数的局部变量具有最高的速度。其次是类级属性(如self.name)和最慢的是全局变量,如time.time(最慢)。所以我们可以通过避免使用不必要的全局变量来提高性能。
使用函数
这似乎有点出乎意料,因为涉及函数的内存占用都在堆栈上,而函数返回也会有开销。但是使用函数,可以避免使用全局变量,可以提高性能。因此,可以通过将整个代码包装在main函数中只调用一次来加速代码。
避免使用属性
另一个可以是影响程序性能的操作是点运算符访问对象属性。点运算符使用__getattribute__触发会字典查找,会在代码中产生额外的开销。我们可以通过一些使用函数而不是类方法的方式避免点操作,比如下面例子
#慢代码:
import re
def slow_func():
for i in range(10000):
re.findall(regex, line)
#快代码
from re import findall
def fast_func():
for i in range(10000):
findall(regex, line)
使用f-string
在循环中使用格式符(%s)或.format()时,字符串操作可能会变得非常缓慢。为了进行性能优化,我们应该使用f-string。它是Python 3.6引入的最具可读性,简洁性和最快的方法。比如:
s + ' ' + t
' '.join((s, t))
'%s %s' % (s, t)
'{} {}'.format(s, t)
Template('$s $t').substitute(s=s, t=t) # 慢代码
f'{s} {t}' # 快代码
总结
性能的调试和优化是非常重要的码农技术之一。本文中,我们提供了Python应用性能调试和优化的技巧和策略,希望能对大家有所帮助。
相关推荐
- Python开发管理神器--UV 使用教程:从安装到项目管理
-
UV是一个用Rust编写的高效Python包和项目管理工具,提供了比传统工具更快的速度和更强的功能。本文将指导你如何使用UV从安装到运行一个Python项目。重点:它可以独立安装,可...
- python入门-Day 26: 优化与调试(python优化方法)
-
优化与调试,内容包括处理模型运行中的常见问题(内存、依赖)、调整参数(如最大生成长度),以及练习改进Day25的文本生成结果。我会设计一个结构化的任务,帮助你掌握优化和调试技巧,同时提升模型性能...
- Python安装(python安装发生严重错误)
-
Windows系统1.安装python1.1下载Python安装包打开官方网站:https://www.python.org/downloads/点击"DownloadPython3.1...
- UV 上手指南:Python 项目环境/包管理新选择
-
如果你是一位Python开发者,曾因pipinstall的安装速度而感到沮丧,或者希望Python的依赖管理能够像Node.js那样高效顺滑,那么UV可能正是你所需要的工具。UV...
- uv——Python开发栈中的高效全能小工具
-
每天写Python代码的同学,肯定都离不开pip、virtualenv、Poetry等基础工具,但是对这些工具可能是又恨又离不开。那么有什么好的替代呢,虫虫今天就给大家介绍一个替代他们的小工具uv,一...
- 使用Refurb让你的Python代码更加优秀
-
还在担心你写的Python代码是否专业,是否符合规范吗?这里介绍一个Python代码优化库Refurb,使用它可以给你的代码提出更加专业的建议,让你的代码更加的可读,规范和专业。下面简单介绍这个库的使...
- 【ai】dify+python开发AI八字排盘插件
-
Dify插件是什么?你可以将Dify插件想象成赋予AI应用增强感知和执行能力的模块化组件。它们使得将外部服务、自定义功能以及专用工具以”即插即用”的简洁方式集成到基于Dify构建的AI...
- 零基础AI开发系列教程:Dify升级指南
-
Dify近期发布很是频繁,基本两三天一个版本。值得肯定的是优化和改进了很多问题,但是官方的升级文档有点分散,也有点乱。我这里整理了一个升级文档供大家参考,如果还没有升级到新版本的小伙伴,可以按照我的文...
- 升级到PyTorch 2.0的技巧总结(如何更新pytorch版本)
-
来源:DeepHubIMBA本文约6400字,建议阅读12分钟在本文将演示PyTorch2.0新功能的使用,以及介绍在使用它时可能遇到的一些问题。PyTorch2.0发布也有一段时间了,大家...
- dify 1.6.0版本发布解读:引入MCP支持与多项核心优化升级指南详解
-
2025年7月10日,dify发布了1.6.0版本。这是一次功能深度升级与性能优化的综合性更新,标志着dify在技术规范支持、操作体验以及系统稳定性方面迈出了重要的一步。本文将从核心新特性、功能增强、...
- Python教程(十四):列表(List)(python列表方法总结)
-
昨天,我们学习了变量作用域,理解了局部和全局变量的概念。今天,我们将开始探索Python的数据结构,从最常用的**列表(List)**开始。列表是Python中最灵活、最常用的数据结构,它可以存储不同...
- Python列表操作(python列表有哪些基本操作)
-
Python添加列表4分钟阅读在Python操作列表有各种方法。例如–简单地将一个列表的元素附加到for循环中另一个列表的尾部,或使用+/*运算符、列表推导、extend()和i...
- Python字符串变形术:replace替换+join连接,10分钟掌握核心操作
-
字符串替换魔法:replace()实战手册核心价值:一键更新文本内容,精准控制替换范围#基础替换:Python变Javas="hellopython"print(s.re...
- python集合set() 数据增册改查统计序循常用方法和数学计算
-
概念特点定义和创建常用操作集合间的关系集合数学操作集合生成式遍历概念:可变、无序、不重复的序列数据容器特点:无序,不支持下标唯一性,可以删除重复数据可修改定义和创建赋值法:语法:s={x,....
- Python列表方法append和extend的区别
-
在Python编程中,列表是一种非常常用的数据结构。而列表有两个方法append()和extend(),它们看起来有点相似,但实际上有着明显的区别。今天咱们就来好好唠唠这俩方法到底有啥不同。基本区别a...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python字典遍历 (54)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python读取文件夹下所有文件 (59)
- java调用python脚本 (56)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)