BigDecimal 精度 和准确度问题

BigDecimal 精度 和准确度问题,第1张

Api写的很清楚:

public class BigDecimalextends Numberimplements Comparable<BigDecimal>

不可变的、任意精度的有符号十进制数。BigDecimal 由任意精度的整数非标度值 和 32 位的整数标度

(scale) 组成。如果为零或正数,则标度是小数点后的位数。如果为负数,则将该数的非标度值乘以 10 的负 scale

次幂。因此,BigDecimal 表示的数值是 (unscaledValue × 10-scale)。

BigDecimal 类提供以下 *** 作:算术、标度 *** 作、舍入、比较、哈希算法和格式转换。toString()

方法提供 BigDecimal 的规范表示形式。

BigDecimal 类使用户能完全控制舍入行为。如果未指定舍入模式,并且无法表示准确结果,则抛出一个异常;否则,通过向该 *** 作提供适当的

MathContext

对象,可以对已选择的精度和舍入模式执行计算。在任何情况下,可以为舍入控制提供八种舍入模式。使用此类(例如,ROUND_HALF_UP)中的整数字段来表示舍入模式已过时;应改为使用

RoundingModeenum(例如,RoundingMode.HALF_UP)的枚举值。

当为 MathContext 对象提供 0 的精度设置(例如,MathContext.UNLIMITED)时,算术运算是准确的,它们是不采用任何

MathContext 对象的算术方法。(这是第 5 版之前的版本支持的惟一行为。)为了计算准确结果,不使用附带 0 精度设置的

MathContext 对象的舍入模式设置,因此与该对象无关。在除法中,准确的商可能是一个无限长的十进制扩展;例如,1 除以 3

所得的商。如果商具有无穷的十进制扩展,但是指定了该 *** 作返回准确结果,则抛出

ArithmeticException。否则,像其他 *** 作那样,返回除法运算的准确结果。

当精度设置不为 0 时,BigDecimal 算法的规则完全符合 ANSI X3.274-1996 和 ANSI

X3.274-1996/AM 1-2000( 7.4 节)中定义的算法的可选 *** 作模式。与上述标准不同,BigDecimal

包括多种舍入模式,它们对于版本 5 以前的 BigDecimal 版本中的除法是强制性的。这些 ANSI 标准和

BigDecimal 规范之间的任何冲突都按照有利于 BigDecimal 的方式进行解决。

由于同一数值可以有不同的表示形式(具有不同的标度),因此运算和舍入的规则必须同时指定数值结果和结果表示形式中所用的标度。

一般情况下,当准确结果(在除法中,可能有无限多位)比返回的数值具有更多位数时,舍入模式和精度设置确定 *** 作如何返回具有有限位数的结果。

首先,MathContext 的 precision

设置指定要返回的总位数;这确定了结果的精度。位数计数从准确结果的最左边的非零数字开始。舍入模式确定丢弃的尾部位数如何影响返回的结果。

对于所有算术运算符,运算的执行方式是,首先计算准确的中间结果,然后,使用选择的舍入模式将其舍入为精度设置(如有必要)指定的位数。如果不返回准确结果,则将丢弃准确结果的某些数位。当舍入增加了返回结果的大小时,前导数字“9”的进位传播可能会创建新的数位。例如,将值

999.9 舍入为三位数字,则在数值上等于一千,表示为 100×101。在这种情况下,新的 "1" 是返回结果的前导数位。

除了逻辑的准确结果外,每种算术运算都有一个表示结果的首选标度。下表列出了每个运算的首选标度。

算术运算结果的首选标度

运算结果的首选标度

加 max(addend.scale(), augend.scale())

减 max(minuend.scale(), subtrahend.scale())

乘 multiplier.scale() + multiplicand.scale()

除 dividend.scale() -

divisor.scale()

这些标度是返回准确算术结果的方法使用的标度;准确相除可能必须使用较大的标度除外,因为准确的结果可能有较多的位数。例如,1/32

得到 0.03125。

舍入之前,逻辑的准确中间结果的标度是该运算的首选标度。如果用 precision

位数无法表示准确的数值结果,则舍入会选择要返回的一组数字,并将该结果的标度从中间结果的标度减小到可以表示实际返回的 precision

位数的最小标度。如果准确结果可以使用最多 precision

个数字表示,则返回具有最接近首选标度的标度的结果表示形式。尤其是,通过移除结尾零并减少标度,可以用少于 precision

个数字来表示准确的可表示的商。例如,使用 floor

舍入模式将结果舍入为三个数字,

19/100 = 0.19 // integer=19, scale=2

但是

21/110 = 0.190 // integer=190, scale=3

注意,对于加、减和乘,标度的缩减量将等于丢弃的准确结果的数字位置数。如果舍入导致进位传播创建一个新的高位,则当未创建新的数位时,会丢弃该结果的附加数字。

其他方法可能与舍入语义稍微不同。例如,使用指定的算法的

pow 方法得到的结果可能偶尔不同于舍入得到的算术结果,如最后一位有多个单位(ulp)。

可以通过两种类型的 *** 作来处理 BigDecimal 的标度:标度/舍入 *** 作和小数点移动 *** 作。标度/舍入 *** 作(setScale

和 round)返回

BigDecimal,其值近似地(或精确地)等于 *** 作数的值,但是其标度或精度是指定的值;即:它们会增加或减少对其值具有最小影响的存储数的精度。小数点移动 *** 作(movePointLeft

和 movePointRight)返回从 *** 作数创建的

BigDecimal,创建的方法是按指定方向将小数点移动一个指定距离。

为了简洁明了起见,整个 BigDecimal 方法的描述中都使用了伪代码。伪代码表达式 (i + j) 是“其值为

BigDecimali 加 BigDecimalj 的

BigDecimal”的简写。伪代码表达式 (i == j) 是“当且仅当 BigDecimali 表示与 BigDecimalj 相同的值时,则为

true”的简写。可以类似地解释其他伪代码表达式。方括号用于表示特定的 BigInteger 和定义

BigDecimal 值的标度对;例如,[19, 2] 表示 BigDecimal 在数值上等于 0.19,标度是 2。

注:如果 BigDecimal 对象用作 SortedMap 中的键或 SortedSet 中的元素,则应特别小心,因为

BigDecimal 的自然排序与 equals 方法不一致。有关更多信息,请参见 Comparable、SortedMap 或 SortedSet。

当为任何输入参数传递 null 对象引用时,此类的所有方法和构造方法都将抛出

NullPointerException。

精度由BigDecimal对象在创建时设定的或默认的MathContext算术环境对象决定。

精度precision的十进制有效数字位数可以指定的。小数点后几位等按有效数位的规则。

精度为0时,代表无限位数的准确精度。此时遇到计算1/3输出的循环小数1.333333..会抛出算术异常,而不是返回有限的有效数字结果。


欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/tougao/11306801.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-15
下一篇 2023-05-15

发表评论

登录后才能评论

评论列表(0条)

保存