测开不得不会的python浮点数计算精度问题
off999 2024-12-14 14:26 19 浏览 0 评论
python的浮点数介绍
浮点数简单讲就是数学中的小数，比如+0.1，-0.1，也可以通过float()函数定义。
但是在实际使用中经常会遇到加减乘除或者四舍五入后精度失真的问题，会导致计算结果不准确。通常使用自带的decimal模块，通过构建decimal.Decimal对象，解决浮点数计算精度失真的问题。
加减法运算遇到精度问题
float_num2 = 1.09 - 0.1
print(float_num2)打印结果：
0.9900000000000001结果并不是我们想要的0.99，而是在后面增加了很多小数位。
通过round()函数实现四舍五入时也会遇到类似精度问题
print(round(2.675,2))打印结果返回的是2.67，并不是2.68
以上精度问题其实都是跟计算机的二进制机制有关系（IEEE 7.4标准是IEEE浮点数标准，定义了一种由32位或64位字表示的浮点数格式。由于IEEE 7.4标准中定义的浮点数格式是有限的，因此无法精确表示所有的小数值。）
使用decimal模块解决计算精度问题
引入Deciaml
from decimal import DecimalDecimal要求传入字符串，计算结果如下：
print(f"计算结果： {Decimal('1.09') - Decimal('0.1')}")计算结果： 0.99
#以上结果确实是我们想要的结果通过Decimal.from_float看计算机上实际存在的浮点值
print(Decimal.from_float(1.09-0.1))
打印结果如下：小数点后面有53位数字
0.99000000000000010214051826551440171897411346435546875使用decimal模块解决四舍五入精度问题
使用uantize函数实现四舍五入，传入的0.00表示精确到小数点2位，以此类推。q
print(Decimal('2.675').quantize(Decimal("0.00")))
打印结果为2.68，正是我们想要的精度。使用float('inf')和float('-inf')表示正无穷和负无穷
print(float('inf') > 99999999999999999999999)
print(float('-inf') < -99999999999999999999999)打印结果都为True
共勉： 东汉·班固《汉书·枚乘传》：“泰山之管穿石，单极之绠断干。水非石之钻，索非木之锯，渐靡使之然也。”
-----指水滴不断地滴，可以滴穿石头；
-----比喻坚持不懈，集细微的力量也能成就难能的功劳。
----感谢读者的阅读和学习，谢谢大家。
相关推荐
- Linux 网络协议栈_linux网络协议栈
-
前言；更多学习资料（包含视频、技术学习路线图谱、文档等）后台私信《资料》免费领取技术点包含了C/C++，Linux，Nginx，ZeroMQ，MySQL，Redis，fastdfs，MongoDB，Z...
- 揭秘 BPF map 前生今世_bpfdm
-
1.前言众所周知，map可用于内核BPF程序和用户应用程序之间实现双向的数据交换，为BPF技术中的重要基础数据结构。在BPF程序中可以通过声明structbpf_map_def...
- 教你简单 提取fmpeg 视频，音频，字幕 方法
-
ffmpeg提取视频，音频，字幕方法（HowtoExtractVideo,Audio,SubtitlefromOriginalVideo？）1.提取视频（ExtractVi...
- Linux内核原理到代码详解《内核视频教程》
-
Linux内核原理-进程入门进程进程不仅仅是一段可执行程序的代码，通常进程还包括其他资源，比如打开的文件，挂起的信号，内核内部的数据结构，处理器状态，内存地址空间，或多个执行线程，存放全局变量的数据段...
- Linux C Socket UDP编程详解及实例分享
-
1、UDP网络编程主要流程UDP协议的程序设计框架，客户端和服务器之间的差别在于服务器必须使用bind()函数来绑定侦听的本地UDP端口，而客户端则可以不进行绑定，直接发送到服务器地址的某个端口地址。...
- libevent源码分析之bufferevent使用详解
-
libevent的bufferevent在event的基础上自己维护了一个buffer，这样的话，就不需要再自己管理一个buffer了。先看看structbufferevent这个结构体struct...
- 一次解决Linux内核内存泄漏实战全过程
-
什么是内存泄漏：程序向系统申请内存，使用完不需要之后,不释放内存还给系统回收，造成申请的内存被浪费.发现系统中内存使用量随着时间的流逝，消耗的越来越多，例如下图所示：接下来的排查思路是:1.监控系统中...
- 彻底搞清楚内存泄漏的原因，如何避免内存泄漏，如何定位内存泄漏
-
作为C/C++开发人员，内存泄漏是最容易遇到的问题之一，这是由C/C++语言的特性引起的。C/C++语言与其他语言不同，需要开发者去申请和释放内存，即需要开发者去管理内存，如果内存使用不当，就容易造成...
- linux网络编程常见API详解_linux网络编程视频教程
-
Linux网络编程API函数初步剖析今天我们来分析一下前几篇博文中提到的网络编程中几个核心的API，探究一下当我们调用每个API时，内核中具体做了哪些准备和初始化工作。1、socket(family...
- Linux下C++访问web—使用libcurl库调用http接口发送解析json数据
-
一、背景这两天由于一些原因研究了研究如何在客户端C++代码中调用web服务端接口，需要访问url，并传入json数据，拿到返回值，并解析。 现在的情形是远程服务端的接口参数和返回类型都是json的字符...
- 平衡感知调节:“系统如人” 视角下的架构设计与业务稳定之道
-
在今天这个到处都是数字化的时代，系统可不是一堆冷冰冰的代码。它就像一个活生生的“数字人”，没了它，业务根本转不起来。总说“技术要为业务服务”，但实际操作起来问题不少：系统怎么才能快速响应业务需求？...
- 谈谈分布式文件系统下的本地缓存_什么是分布式文件存储
-
在分布式文件系统中，为了提高系统的性能，常常会引入不同类型的缓存存储系统（算法优化所带来的的效果可能远远不如缓存带来的优化效果）。在软件中缓存存储系统一般可分为了两类：一、分布式缓存，例如：Memca...
- 进程间通信之信号量semaphore--linux内核剖析
-
什么是信号量信号量的使用主要是用来保护共享资源，使得资源在一个时刻只有一个进程（线程）所拥有。信号量的值为正的时候，说明它空闲。所测试的线程可以锁定而使用它。若为0，说明它被占用，测试的线程要进入睡眠...
- Qt编写推流程序/支持webrtc265/从此不用再转码/打开新世界的大门
-
一、前言在推流领域，尤其是监控行业，现在主流设备基本上都是265格式的视频流，想要在网页上直接显示监控流，之前的方案是，要么转成hls，要么魔改支持265格式的flv，要么265转成264，如果要追求...
- 30 分钟搞定 SpringBoot 视频推拉流!实战避坑指南
-
30分钟搞定SpringBoot视频推拉流！实战避坑指南在音视频开发领域，SpringBoot凭借其快速开发特性，成为很多开发者实现视频推拉流功能的首选框架。但实际开发中，从环境搭建到流处理优...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)