当前位置:网站首页>使用BigDecimal类型应该避免哪些问题?(荣耀典藏版)
使用BigDecimal类型应该避免哪些问题?(荣耀典藏版)
2022-07-28 01:06:00 【龍揹仩哋騎仕】

目录
前言
大家好,我是程序缘--幻羽,我又来了!!
Java在java.math包中提供的API类BigDecimal,用来对超过16位有效位的数进行精确的运算。双精度浮点型变量double可以处理16位有效数。在实际应用中,需要对更大或者更小的数进行运算和处理。float和double只能用来做科学计算或者是工程计算,在商业计算中要用java.math.BigDecimal。BigDecimal所创建的是对象,我们不能使用传统的+、-、*、/等算术运算符直接对其对象进行数学运算,而必须调用其相对应的方法。方法中的参数也必须是BigDecimal的对象。构造器是类的特殊方法,专门用来创建对象,特别是带有参数的对象。
当BigDecimal使用不当时就会造成严重的后果,记得当时还是做支付项目,结果就出问题了,
但是问题不大,程序嘛,有bag很正常,我完全不慌。。。。。

1、背景
我们在使用金额计算或者展示金额的时候经常会使用 BigDecimal,也是涉及金额时非常推荐的一个类型。
BigDecimal 自身也提供了很多构造器方法,这些构造器方法使用不当可能会造成不必要的麻烦甚至是金额损失,从而引起事故资损。

2、事故
接下来我们看下收银台出的一起事故。
2.1. 问题描述
收银台计算商品金额报错,导致订单无法支付。
2.2.事故级别
P0级

内心几乎是崩溃的。。。。。。。。
2.3.事故过程
如下:
13:44,接到报警,订单支付失败,支付可用率降至 60%
13:50,迅速回滚上线代码,恢复正常
14:20,review 代码,预发布验证发现问题点
14:58,修改问题代码上线,线上恢复
2.4.故障原因

BigDecimal 在金额计算中丢失精度。
原因分析
首先我们先用一段代码复现问题根源,如下所示:
public static void main(String[] args) {
BigDecimal bigDecimal=new BigDecimal(88);
System.out.println(bigDecimal);
bigDecimal=new BigDecimal("8.8");
System.out.println(bigDecimal);
bigDecimal=new BigDecimal(8.8);
System.out.println(bigDecimal);
}执行结果如下:

通过测试发现,当使用 double 或者 float 这些浮点数据类型时,会丢失精度,String、int 则不会,这是为什么呢?
我们点开构造器方法看下源码:
public static long doubleToLongBits(double value) {
long result = doubleToRawLongBits(value);
// Check for NaN based on values of bit fields, maximum
// exponent and nonzero significand.
if ( ((result & DoubleConsts.EXP_BIT_MASK) ==
DoubleConsts.EXP_BIT_MASK) &&
(result & DoubleConsts.SIGNIF_BIT_MASK) != 0L)
result = 0x7ff8000000000000L;
return result;
}问题就处在 doubleToRawLongBits 这个方法上,在 jdk 中 double 类(float 与 int 对应)中提供了 double 与 long 转换,doubleToRawLongBits 就是将 double 转换为 long,这个方法是原始方法(底层不是 java 实现,是 c++ 实现的)。
double 之所以会出问题,是因为小数点转二进制丢失精度。
BigDecimal 在处理的时候把十进制小数扩大 N 倍让它在整数上进行计算,并保留相应的精度信息。
- float 和 double 类型,主要是为了科学计算和工程计算而设计的,之所以执行二进制浮点运算,是为了在广泛的数值范围上提供较为精确的快速近和计算。
- 并没有提供完全精确的结果,所以不应该被用于精确的结果的场合。
- 当浮点数达到一定大的数,就会自动使用科学计数法,这样的表示只是近似真实数而不等于真实数。
- 当十进制小数位转换二进制的时候也会出现无限循环或者超过浮点数尾数的长度。

总结
所以,在涉及到精度计算的过程中,我们尽量使用 String 类型来进行转换。
就这玩意儿丢了我整个月的绩效。。。。。。。
对于金额这种敏感字段还是谨慎一些更好。。。血的教训。。。。
因为计算机采用二进制处理数据,但是很多小数,如0.1的二进制是一个无线循环小数,而这种数字在计算机中是无法精确表示的。
BigDecimal采用了一种通过近似值的方式在计算机中表示,于是就有了单精度浮点数和双精度浮点数等。
BigDecimal作为单精度浮点数的float和双精度浮点数的double,在表示小数的时候只是近似值,并不是真实值。
当使用BigDecimal(Double)创建一个的时候,得到的BigDecimal是损失了精度的。
而使用一个损失了精度的数字进行计算,得到的结果也是不精确的。
想要避免这个问题,可以通过BigDecimal(String)的方式创建BigDecimal,这样的情况下,0.1就会被精确的表示出来。
其表现形式是一个无标度数值1,和一个标度1的组合。
都看到这里了,就点个 吧。
边栏推荐
猜你喜欢

执行 Add-Migration 迁移时报 Build failed.

How to evaluate the effectiveness of R & D personnel? Software Engineer reports help you see everyone's contribution

Plato Farm在Elephant Swap上铸造的ePLATO是什么?

Flume (5 demos easy to get started)

Go learning 01

Flume(5个demo轻松入门)

小米网站主页面大模块——小模块+导航(浮动案例)

54: Chapter 5: develop admin management services: 7: face warehousing process; Face login process; The browser turns on the video debugging mode (so that the camera can also be turned on in the case o

对话Atlassian认证专家叶燕秀:Atlassian产品进入后Server时代,中国用户应当何去何从?

Leetcode hot topic Hot 100 - > 3. longest substring without repeated characters
随机推荐
Uniapp summary (applet)
网络必知题目
Wechat applet pictures are scaled according to the screen scale
Lightweight project management system
[Yugong series] use of tabby integrated terminal in July 2022
Huawei app UI automation test post interview real questions, real interview experience.
Use of classes in typescript
[Star Project] small hat aircraft War (V)
53:第五章:开发admin管理服务:6:开发【admin管理员退出登录,接口】;(一个点:我们想要修改一个采用了某种编码方式的值时,新的值最好也按照这种编码方式编码后,再去修改;)
【愚公系列】2022年07月 Tabby集成终端的使用
Understand the "next big trend" in the encryption industry - ventures Dao
In it, there is a million talent gap, and the salary rises, but it is not capped
样本不均衡-入门0
feign调用get和post记录
[机缘参悟-53]:阳谋立身,阴谋防身
【数据库数据恢复】SQL Server数据库磁盘空间不足的数据恢复案例
MySQL create stored procedure ------ [hy000][1418] this function has none of deterministic, no SQL
重要安排-DX12引擎开发课程后续直播将在B站进行
Ceresdao: new endorsement of ventures Dao
【ROS进阶篇】第九讲 基于Rviz和Arbotix控制的机器人模型运动