百度360必应搜狗淘宝本站头条
python类型转换python串口编程python计时python异常python进度条
当前位置：网站首页 > 技术资源 > 正文

测开不得不会的python浮点数计算精度问题

off999 2024-12-14 14:26 22 浏览 0 评论

python的浮点数介绍

浮点数简单讲就是数学中的小数，比如+0.1，-0.1，也可以通过float()函数定义。

但是在实际使用中经常会遇到加减乘除或者四舍五入后精度失真的问题，会导致计算结果不准确。通常使用自带的decimal模块，通过构建decimal.Decimal对象，解决浮点数计算精度失真的问题。

加减法运算遇到精度问题

float_num2 = 1.09 - 0.1
print(float_num2)
打印结果：
0.9900000000000001

结果并不是我们想要的0.99，而是在后面增加了很多小数位。

通过round()函数实现四舍五入时也会遇到类似精度问题

print(round(2.675,2))

打印结果返回的是2.67，并不是2.68


以上精度问题其实都是跟计算机的二进制机制有关系（IEEE 7.4标准是IEEE浮点数标准，定义了一种由32位或64位字表示的浮点数格式。由于IEEE 7.4标准中定义的浮点数格式是有限的，因此无法精确表示所有的小数值。）

使用decimal模块解决计算精度问题

引入Deciaml

from decimal import Decimal

Decimal要求传入字符串，计算结果如下：

print(f"计算结果： {Decimal('1.09') - Decimal('0.1')}")
计算结果： 0.99
#以上结果确实是我们想要的结果

通过Decimal.from_float看计算机上实际存在的浮点值

print(Decimal.from_float(1.09-0.1))
打印结果如下：小数点后面有53位数字
0.99000000000000010214051826551440171897411346435546875

使用decimal模块解决四舍五入精度问题

使用uantize函数实现四舍五入，传入的0.00表示精确到小数点2位，以此类推。q

print(Decimal('2.675').quantize(Decimal("0.00")))
打印结果为2.68，正是我们想要的精度。


使用float('inf')和float('-inf')表示正无穷和负无穷

print(float('inf') > 99999999999999999999999)
print(float('-inf') < -99999999999999999999999)

打印结果都为True


共勉： 东汉·班固《汉书·枚乘传》：“泰山之管穿石，单极之绠断干。水非石之钻，索非木之锯，渐靡使之然也。”

-----指水滴不断地滴，可以滴穿石头；

-----比喻坚持不懈，集细微的力量也能成就难能的功劳。

----感谢读者的阅读和学习，谢谢大家。

相关推荐

电脑主机不启动但通电（电脑主机开机不通电没反应）

第1步：首先检查电脑的外部接线是否接好，把各个连线重新插一遍，看故障是否排除。第2步：如果故障依旧，接着打开主机箱查看机箱内有无多余金属物，或主板变形造成的短路，闻一下机箱内有无烧焦的糊味，主板上有无...

苹果一体机怎么重装系统（苹果一体机重装系统win10）

苹果更换硬盘后，如果您没有创建一个启动磁盘或者使用TimeMachine备份系统，您可以按照以下步骤重新安装操作系统：1.准备一个可用于安装系统的启动磁盘。您可以使用官方提供的macOS安装介质（...

装系统的u盘怎么制作（装系统怎么制作u盘启动盘）
装系统的u盘怎么制作（装系统怎么制作u盘启动盘）

1、下载安装u当家u盘启动盘制作工具，完成之后打开该软件2、将之前准备好的U盘插入电脑，U当家会自动识别并选为默认，如果有多个U盘可以在“选择U盘”的下拉框中选择要制作成U盘启动盘的U盘。3、点击下面的“一键制作”按钮。（如果是电脑主板是U...

2025-11-15 07:03 off999

台电u盘怎么样

感觉台电U盘还是可以的，我知道台电是国内最成功的数码产品制造商之一，是一个致力于IT及消费数码类产品研发、生产、销售及服务的一体化品牌，U盘很好用，用的人很多。威刚是480Mbit/S只是USB2...

u盘重装系统蓝屏进不去（u盘装系统重启蓝屏）

尊敬的用户您好：可按下面的步骤进行系统盘装系统：1.买一张win7光盘，将系统光盘放入光驱里。2.打开电源，然后观察屏幕的提示，在启动系统之前有按“f2进行bios设置。3.设置启动方式。找到boot...

win快捷键大全（win快捷键大全表）

win快捷键：单独按Windows：显示或隐藏“开始”功能表Windows+BREAK：显示“系统属性”对话框Windows+D：显示桌面或恢复桌面Windows+M：最小化所有窗口Windows...

u盘突然要格式化怎么回事（用着的u盘突然要格式化）

U盘提示格式化的原因可能有以下几点：文件系统损坏：U盘的文件系统可能出现损坏，导致无法正常读取和写入数据。病毒感染：U盘可能被病毒感染，病毒会破坏文件系统或隐藏文件。不兼容的文件系统：U盘可能使用了一...

路由器pppoe怎么设置（路由器如何设置pppoe上网）

移动宽带PPPOE是不用设置的，你只要把帐号和密码填上其他都不选就能上网。但是要注意连接到你电脑的网线是直接经过一个路由器后连接到猫上的，因为我见过有人是这样连接的猫---路由器---路由器---电脑...

win7桌面图标设置在哪里（win7桌面图标在哪个文件夹）

要调出Win7桌面图标，首先需要进入桌面。可以通过点击任务栏上方的“显示桌面”按钮或按下Windows键+D快捷键进入桌面。在桌面上右键单击空白区域，选择“个性化”，然后选择“更改桌面图标”选项。在弹...

win7手机壁纸（windows7手机桌面主题）

1.首先我们打开手机进入到桌面，找到设置图标点击打开。华为手机如何设置自定义锁屏壁纸2.进入到设置界面之后，点击下方的显示选项。华为手机如何设置自定义锁屏壁纸3.然后我们就可以在显示界面中找到壁纸...

怎么开启路由器wifi（怎么开启路由器的dhcp功能）

把路由器改为开放网络方法如下：1、打开浏览器，在地址栏输入路由器网关IP地址（路由器背后的标签上有，一般是192.168.1.1），输入登录用户名和密码（一般均为admin)；2、登录成功后就显示运行...

win10加载不出来桌面黑屏（window10加载不出来）

方法一、如果是遇到了突发性黑屏首先尝试使用Ctrl+Alt+Delete组合键来进行电脑重启一般重启可以解决大部分黑屏故障。win10电脑黑屏按什么键恢复_win10电脑黑屏一键恢复的方法方法...

怎么用火绒关闭win安全中心（win10火绒安全软件怎么关闭）

一、火绒防火墙关闭方法在电脑上运行火绒软件后，点击首页界面的“防护中心”，在病毒防护界面可以关闭文件、U盘、邮件等保护功能，。系统防护：在该界面可以关闭系统防护功能，。网络防护：可以关闭网络保护等功...

微软应用商店下载手机版（微软应用商店在哪下）

、在桌面任务栏找到微软应用商店，点击并打开。2、进入页面后点击【应用】，进入应用页面。3、在页面里往下移动，找到热门应用，找到一个软件，点击进入。4、进入页面后，点击【安装】，软件会自动安装，安装完毕...

win11系统怎么查看电脑配置（win11怎么查看系统版本）

答:win11查看电脑配置步骤如下。1.点击下方任务栏的windows图标或者按下键盘“windows键”打开开始菜单。2.在开始菜单中找到“设置”或“settings”,一般是右上角的齿轮状按钮,3...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表
Copyright Your WebSite.Some Rights Reserved.