百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

python小数计算时的精度问题处理(python isdigit 小数)

off999 2024-10-11 14:01 34 浏览 0 评论

问题举例

数字计算由于数据结构底层问题,导致会某些情况下存在精度丢失问题,JavaScript也存在同类问题,可以使用decimal.js库,用法与python相似

In [5]: 0.1+0.1+0.1
Out[5]: 0.30000000000000004
In [13]: 0.1*3
Out[13]: 0.30000000000000004

解决方法

使用python内建库decimal可以进行准确的计算

# 错误用法:
In [15]: decimal.Decimal(0.1) * 3
Out[15]: Decimal('0.3000000000000000166533453694')
In [18]: decimal.Decimal(str(0.1 * 3))
Out[18]: Decimal('0.30000000000000004')
# 正确用法:
In [20]: decimal.Decimal('0.1') * 3
Out[20]: Decimal('0.3')
In [21]: decimal.Decimal('0.1') * decimal.Decimal('3')
Out[21]: Decimal('0.3')
# 错误用法:
In [23]: decimal.Decimal(0.1) + decimal.Decimal(0.1) + decimal.Decimal(0.1)
Out[23]: Decimal('0.3000000000000000166533453694')
# 正确用法:
In [24]: decimal.Decimal(str(0.1)) + decimal.Decimal(str(0.1)) + decimal.Decimal(str(0.1))
Out[24]: Decimal('0.3')

注意:小数计算时必须先转换为Decimal类型,且必须先转为为字符串传参,否则使用float类型传入的Decimal数已经是丢失精度,将失去使用Decimal的作用

精度和进位

quantize()方法可实现保留多少位小数操作,第一个参数为保留多少位,比如'0'不保留小数,'.00'保留两位小数

# 四舍五入:
In [43]: decimal.Decimal(123.214).quantize(decimal.Decimal('.00'), decimal.ROUND_HALF_UP)
Out[43]: Decimal('123.21')

In [44]: decimal.Decimal(123.215).quantize(decimal.Decimal('.00'), decimal.ROUND_HALF_UP)
Out[44]: Decimal('123.22')

# 始终不进位
In [45]: decimal.Decimal(123.214).quantize(decimal.Decimal('.00'), decimal.ROUND_DOWN)
Out[45]: Decimal('123.21')

In [46]: decimal.Decimal(123.215).quantize(decimal.Decimal('.00'), decimal.ROUND_DOWN)
Out[46]: Decimal('123.21')

# 始终进位
In [47]: decimal.Decimal(123.214).quantize(decimal.Decimal('.00'), decimal.ROUND_UP)
Out[47]: Decimal('123.22')

In [48]: decimal.Decimal(123.215).quantize(decimal.Decimal('.00'), decimal.ROUND_UP)
Out[48]: Decimal('123.22')

相关推荐

office2010家庭和学生版密钥

1.MicrosoftExcel2010家庭版的产品密钥是需要购买正版软件时提供的一串字符序列。2.这是为了确保用户使用正版软件,并且能够享受到软件的全部功能和服务。3.为了获得Micros...

16949认证费用是多少(16949审核员太难考了)

需要参加培训和考试,培训和考试是需要收费的,一般在300到500左右。内审员证书一般3年有效(因为标准是会更改的,更改标准则需要从新培训)大多数由企业组织人员参加培训。费用由企业承担,个人学这个的还是...

mba是什么意思(长江商学院emba是什么意思)
mba是什么意思(长江商学院emba是什么意思)

工商管理硕士(MBA)是工商管理类硕士研究生学位,MBA是培养能够胜任工商企业和经济管理部门高层管理工作需要的务实型、复合型和应用型高层次管理人才,兼具理论与实践相结合,而其他硕士研究生只是培养科研型和教学型人才,偏向理论,不参与实践。MB...

2026-01-14 07:51 off999

mdf文件游戏怎么安装(win10mdf文件游戏怎么安装)

朋友,应该还有一个只有几K的KuaiZipMount.mds文件吧?请确保这两个文件在同一个目录中然后用Daemontools等虚拟光驱软件,载入其中的mds文件之后进入虚拟光驱所在盘符执行...

c盘莫名其妙的满了怎么办(c盘莫名其妙的满了怎么办windows)

当C盘突然满了,首先需要找到原因。可能是因为系统更新或安装了大量软件,也可能是因为存在大量垃圾文件或临时文件。可以通过清理垃圾文件、卸载无用软件、更改默认下载路径等方式来释放C盘空间。另外,可以考虑将...

联通路由器怎么改wifi密码(联通路由器怎么改wifi密码和名称)
  • 联通路由器怎么改wifi密码(联通路由器怎么改wifi密码和名称)
  • 联通路由器怎么改wifi密码(联通路由器怎么改wifi密码和名称)
  • 联通路由器怎么改wifi密码(联通路由器怎么改wifi密码和名称)
  • 联通路由器怎么改wifi密码(联通路由器怎么改wifi密码和名称)
怎么查电脑型号配置(电脑怎么看型号配置)
  • 怎么查电脑型号配置(电脑怎么看型号配置)
  • 怎么查电脑型号配置(电脑怎么看型号配置)
  • 怎么查电脑型号配置(电脑怎么看型号配置)
  • 怎么查电脑型号配置(电脑怎么看型号配置)
电脑如何修改默认浏览器(电脑上怎样修改默认浏览器)

1、按下“windows+i”快捷键打开Windows设置,在设置界面选择系统。2、在系统里左边点击默认程序一项,右边会出现新的选项来。3、右边滚动鼠标滑轮下拉,点击web默认程序,点击选择想要默认打...

如何下载youtube视频(如何下载youtube视频2160p)

这个可以在应用宝中下载,就是在手机上下载一个应用宝,然后在搜索栏里输入软件名字,点击搜索,根据提示下载就可以了。将视频下载到电脑上有几种途径,如果是网络上的,可以下载的视频会设置有下载标记或按钮,点...

深度国际2025最新一期视频(今日关注最新一期的)

1、就算不快乐也不要皱眉,因为你永远不知道谁会爱上你的笑容。2、踏入社会的时候,不要什么话都跟别人讲,你说的是心里话,别人听的是笑话。3、该扔的就扔,该放弃就放弃,从今天起,余生做个俗人,以自己最好的...

华为最新系统版本(华为最新系统版本微信)

鸿蒙3.0。鸿蒙最新版本是3.0系统,相比2.0有着全面提升。尤其是在交互设计,多设备互联互通,流畅度性能,安全属性,用户关怀等方面升级幅度最大,而且升级并非是简单的更新换代,修复了不少鸿蒙2.0版本...

不知道原机主id密码如何激活

答案:如果忘记ID账号和密码,可以尝试以下方法激活手机:1.使用备用邮箱或手机号码:如果您已将备用邮箱或手机号码与您的ID账号绑定,可以使用备用邮箱或手机号码进行身份验证以激活手机。2.联系客服:...

win10安装需要输入产品密钥(win10安装程序要输入产品密匙)

可按照如下方式解决:1.右击桌面左下角的“Windows”按钮,然后点击“命令提示符”项。2.接下来再输入以下命令:slmgr/ipkW269N-WFGWX-YVC9B-4J6C9-T83GX按回...

手机秒变电脑摄像头(手机秒变电脑摄像头怎么设置)

可以的我用过,但是要你手机支持啊国产的山寨机很多都支持这个功能:支持这个功能的手机摄像头有两种工作状态:手机摄像状态和USB连接状态,在手机设置里把手机的摄像头改为USB连接状态,直接插到电脑上就可以...

苹果ipad充不上电是什么原因
  • 苹果ipad充不上电是什么原因
  • 苹果ipad充不上电是什么原因
  • 苹果ipad充不上电是什么原因
  • 苹果ipad充不上电是什么原因

取消回复欢迎 发表评论: