当前位置:网站首页>BigDecimal除法的精度问题
BigDecimal除法的精度问题
2022-07-05 16:49:00 【全栈程序员站长】
大家好,又见面了,我是你们的朋友全栈君。
BigDecimal除法的精度问题
在使用BigDecimal的除法时,遇到一个鬼畜的问题,本以为的精度计算,结果使用返回0,当然最终发现还是自己的使用姿势不对导致的,因此记录一下,避免后面重蹈覆辙
I. 问题抛出
在使用BigDecimal做高精度的除法时,一不注意遇到了一个小问题,如下
@Test
public void testBigDecimal() {
BigDecimal origin = new BigDecimal(541253);
BigDecimal now = new BigDecimal(12389431);
BigDecimal val = origin.divide(now, RoundingMode.HALF_UP);
System.out.println(val);
origin = new BigDecimal(541253);
now = new BigDecimal(12389431.3);
val = origin.divide(now, RoundingMode.HALF_UP);
System.out.println(val);
origin = new BigDecimal(541253.4);
now = new BigDecimal(12389431);
val = origin.divide(now, RoundingMode.HALF_UP);
System.out.println(val);
}
复制代码
上面的输出是什么 ?
0
0
0.043686703610520937021487456961257
复制代码
为什么前面两个会是0呢,如果直接是 541253 / 12389431
= 0 倒是可以理解, 但是BigDecimal不是高精度的计算么,讲道理不应该不会出现这种整除的问题吧
我们知道在BigDecimal做触发时,可以指定保留小数的参数,如果加上这个,是否会不一样呢?
BigDecimal origin = new BigDecimal(541253);
BigDecimal now = new BigDecimal(12389431);
BigDecimal val = origin.divide(now, 5, RoundingMode.HALF_UP);
System.out.println(val);
复制代码
输出结果为:
0.04369
复制代码
所以说在指定了保留小数之后,则没有问题,所以大胆的猜测一下,是不是上面的几种case中,由于scale值没有指定时,默认值不一样,从而导致最终结果的精度不同呢?
简单的深入源码分析一下,执行的方式为 origin.divide(now, RoundingMode.HALF_UP);
, 所以这个scale参数就瞄准origin对象,而这个对象,就只能去分析它的构造了,因为没有其他的地方使用
II. 源码定位
1. 整形传参构造
分析下面这一行, 直接进入源码
BigDecimal origin = new BigDecimal(541253);
复制代码
很明显的int传参构造,进去简单看一下
// java.math.BigDecimal#BigDecimal(int)
public BigDecimal(int val) {
this.intCompact = val;
this.scale = 0;
this.intVal = null;
}
public BigDecimal(long val) {
this.intCompact = val;
this.intVal = (val == INFLATED) ? INFLATED_BIGINT : null;
this.scale = 0;
}
复制代码
so,很明确的知道默认的scale为0,也就是说当origin为正数时,以它进行的除法,不现实指定scale参数时,最终返回的都是没有小数的,同样看一眼,还有long的传参方式, BigInteger也一样
2. 浮点传参
接下来就是浮点的scale默认值确认了,这个构造相比前面的复杂一点,源码就不贴了,太长,也看不太懂做了些啥,直接用猥琐一点的方式,进入debug模式,单步执行
@Test
public void testBigDecimal() {
BigDecimal origin = new BigDecimal(541253.0);
BigDecimal now = new BigDecimal(12389431.1);
BigDecimal tmp = new BigDecimal(0.0);
}
复制代码
根据debug的结果,第一个,scale为0; 第二个scale为29, 第三个scale为0
3. String传参
依然是一大串的逻辑,同样采用单步debug的方式试下
@Test
public void testBigDecimal() {
BigDecimal origin = new BigDecimal("541253.0");
BigDecimal now = new BigDecimal("12389431.1");
BigDecimal t = new BigDecimal("0.0");
}
复制代码
上面三个的scale都是1
4. 小结
- 对于BigDecimal进行除法运算时,最好指定其scale参数,不然可能会有坑
- 对于BigDecimla的scale初始化的原理,有待深入看下BigDecimal是怎么实现的
II. 其他
1. 一灰灰Blog: https://liuyueyi.github.io/hexblog
一灰灰的个人博客,记录所有学习和工作中的博文,欢迎大家前去逛逛
2. 声明
尽信书则不如,已上内容,纯属一家之言,因个人能力有限,难免有疏漏和错误之处,如发现bug或者有更好的建议,欢迎批评指正,不吝感激
发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/149837.html原文链接:https://javaforall.cn
边栏推荐
- 深入理解Redis内存淘汰策略
- 编译libssh2报错找不到openssl
- Embedded-c Language-4
- Learn about MySQL transaction isolation level
- 【jmeter】jmeter脚本高级写法:接口自动化脚本内全部为变量,参数(参数可jenkins配置),函数等实现完整业务流测试
- Embedded UC (UNIX System Advanced Programming) -1
- 【7.7直播预告】《SaaS云原生应用典型架构》大咖讲师教你轻松构建云原生SaaS化应用,难题一一击破,更有华为周边好礼等你领!
- 一文了解Go语言中的函数与方法的用法
- 域名解析,反向域名解析nbtstat
- How to write a full score project document | acquisition technology
猜你喜欢
dried food! Semi supervised pre training dialogue model space
33:第三章:开发通行证服务:16:使用Redis缓存用户信息;(以减轻数据库的压力)
NPM installation
SQL删除重复数据的实例教程
[Web attack and Defense] WAF detection technology map
高数 | 旋转体体积计算方法汇总、二重积分计算旋转体体积
Example tutorial of SQL deduplication
阈值同态加密在隐私计算中的应用:解读
Design of electronic clock based on 51 single chip microcomputer
Precision epidemic prevention has a "sharp weapon" | smart core helps digital sentinels escort the resumption of the city
随机推荐
通过proc接口调试内核代码
Read the basic grammar of C language in one article
thinkphp3.2.3
Is it safe to open an account for digging wealth stocks? How is it safe to open a stock account?
First day of learning C language
机器学习02:模型评估
Embedded -arm (bare board development) -1
Is it safe and reliable to open futures accounts on koufu.com? How to distinguish whether the platform is safe?
ECU简介
Embedded UC (UNIX System Advanced Programming) -2
激动人心!2022开放原子全球开源峰会报名火热开启!
外盘期货平台如何辨别正规安全?
CMake教程Step5(添加系统自检)
7.Scala类
Etcd build a highly available etcd cluster
调查显示传统数据安全工具面对勒索软件攻击的失败率高达 60%
winedt常用快捷键 修改快捷键latex编译按钮
easyNmon使用汇总
EasyX second lesson
ThoughtWorks global CTO: build the architecture according to needs, and excessive engineering will only "waste people and money"