百度360必应搜狗淘宝本站头条
python类型转换python串口编程python计时python异常python进度条
当前位置：网站首页 > 技术资源 > 正文

测开不得不会的python浮点数计算精度问题

off999 2024-12-14 14:26 29 浏览 0 评论

python的浮点数介绍

浮点数简单讲就是数学中的小数，比如+0.1，-0.1，也可以通过float()函数定义。

但是在实际使用中经常会遇到加减乘除或者四舍五入后精度失真的问题，会导致计算结果不准确。通常使用自带的decimal模块，通过构建decimal.Decimal对象，解决浮点数计算精度失真的问题。

加减法运算遇到精度问题

float_num2 = 1.09 - 0.1
print(float_num2)
打印结果：
0.9900000000000001

结果并不是我们想要的0.99，而是在后面增加了很多小数位。

通过round()函数实现四舍五入时也会遇到类似精度问题

print(round(2.675,2))

打印结果返回的是2.67，并不是2.68


以上精度问题其实都是跟计算机的二进制机制有关系（IEEE 7.4标准是IEEE浮点数标准，定义了一种由32位或64位字表示的浮点数格式。由于IEEE 7.4标准中定义的浮点数格式是有限的，因此无法精确表示所有的小数值。）

使用decimal模块解决计算精度问题

引入Deciaml

from decimal import Decimal

Decimal要求传入字符串，计算结果如下：

print(f"计算结果： {Decimal('1.09') - Decimal('0.1')}")
计算结果： 0.99
#以上结果确实是我们想要的结果

通过Decimal.from_float看计算机上实际存在的浮点值

print(Decimal.from_float(1.09-0.1))
打印结果如下：小数点后面有53位数字
0.99000000000000010214051826551440171897411346435546875

使用decimal模块解决四舍五入精度问题

使用uantize函数实现四舍五入，传入的0.00表示精确到小数点2位，以此类推。q

print(Decimal('2.675').quantize(Decimal("0.00")))
打印结果为2.68，正是我们想要的精度。


使用float('inf')和float('-inf')表示正无穷和负无穷

print(float('inf') > 99999999999999999999999)
print(float('-inf') < -99999999999999999999999)

打印结果都为True


共勉： 东汉·班固《汉书·枚乘传》：“泰山之管穿石，单极之绠断干。水非石之钻，索非木之锯，渐靡使之然也。”

-----指水滴不断地滴，可以滴穿石头；

-----比喻坚持不懈，集细微的力量也能成就难能的功劳。

----感谢读者的阅读和学习，谢谢大家。

相关推荐

小白三步装机教程（小白三步装机法）

下面给大家整理了一份小白装机的详细教程，有需要的朋友们快来看看吧!1、我们下载一个小白软件，然后选择了安装win7系统。2、在下载界面，下载速度取决于您的网络您只需要耐心等待即可。3、软件下载完成后会...

winpe下载官网下载iso（winpe.iso下载）

你好，以winpe装win7iso系统说明安装步骤：　　1、根据教程制作好winpe启动盘，然后将下载的win7iso系统文件直接复制到U盘的GHO目录下;　　2、在需要装系统的电脑上...

把系统装在u盘（把系统装在u盘里的缺点）

系统装进U盘有效的方法。1、下载并且安装好大白菜装机版，打开安装好的大白菜装机版，插入u盘等待软件成功读取到u盘之后，点击“一键制作启动u盘”进入下一步操作：2、弹出的信息提示窗口中，选择自己下载的的...

恢复出厂设置对电脑有影响吗

电脑恢复出厂设置，对系统没有影响，原因如下：1、系统还原是电脑在使用中的一种正常运作，不还原电脑无法正常运行，系统还原是对电脑的维护，不会对电脑或系统造成损害。2、系统还原是一次大容量的数据读写、清除...

注册邮箱163免费登录入口官网

注册网易邮箱账号步骤如下：1、在浏览器的地址栏输入http://email.163.com/进入网易邮箱的登录页面，点击页面下方的立即注册2、点击立即注册进入邮箱的注册页面，点击页面上面的注册字母邮箱...

产品密钥win10专业版激活密钥免费

1不存在永久激活密钥，但可以使用一些有效期长的密钥去激活Win10专业版。2Windows10的激活方式是基于数字权利，当你购买Windows10时，系统会将您电脑的硬件信息和购买记录绑定在一起...

ghostxp系统下载怎么安装教程

系统之家下载的XP系统通常是一个ISO镜像文件，安装这个系统需要通过一些步骤来制作可启动安装介质并进行系统安装。以下是安装的基本步骤：准备安装介质：使用工具如Rufus或AnyBurn将下载的ISO文...

无线网桥监控安装方法（无线网桥怎么连接监控）

网桥连接无线路由器安装的设置方法如下1.主路由器上网正常，副路由器LAN口插一根网线，另一头连接电脑。主副路由器不需要用网线连接。2.电脑开机输入副路由器背面的设置地址，进入登录界面输入背面的账号密码...

怎么对电脑文件夹加密（怎么对电脑文件夹加密码）

1.右键点要加密的文件或文件夹，然后单击“属性”；2.在“常规”选项卡，点击“高级”。选中“加密内容以便保护数据”复选框;3.在加密文件夹时，系统将询问是否要同时加密它的子文件夹。要如果选择是，那它的...

windows系统下载手机（win10下载手机）

OPPO手机重新下载安装系统：先备份好重要数据！然后手机连接电脑把下载的固件存入手机。然后再长按电源键十秒钟进入关机状态（可拆卸电板的需取下电板然后重新安装）。再同时按住电源键跟音量减键，进入reco...

电脑系统分区怎么分（电脑系统分区怎么分区）

分区是将硬盘分割成不同的逻辑部分，每个分区可以被视为一个独立的存储设备。通过分区，可以更好地管理数据和操作系统。要进行电脑分区，可以按照以下步骤进行：1.确定分区方案：首先需要确定分区的目的和需求。...

电脑显卡怎么选择（电脑显卡怎样选择）

以下是一些通用的方法：1.在硬件层面进行配置：首先需要确认您的主板和操作系统是否支持多GPU并行，以及您的电源是否提供足够的功率支持。在BIOS中启用多GPU选项，并安装正确的驱动程序。然后，通...

设置软件下载（设置软件下载入口）

iphone13app的下载设置1、首先，打开手机桌面的【设置】。2、在设置界面，点击【面容ID与密码】。3、这时设置了键盘锁的会要求你输入键盘锁密码进入。4、进入之后，找到【iTunesStore...

电脑麦克风插孔是哪个（电脑麦克风插那）

1.蓝色的为音频输入口。一般的电脑后面都有三个音频接口：蓝色是音频输入，绿色是音频输出，粉红色麦克风。　　2.音频输入(蓝色),为外接光驱.随身听及其它音频输入设备,即可以把外部的设备声音传送至电脑...

ie浏览器打不开网页怎么修复

第一步：打开“运行”输入—〉cmd—〉回车然后把下面这行字符复制到黑色cmd框里面去回车等待dll文件全部注册完成就关闭可以了（下面是要运行的代码）：for%1in(%windir%\syste...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表
Copyright Your WebSite.Some Rights Reserved.