如何保留数字的有效数字?

如何保留数字的有效数字?,第1张

有效数字运算规则:

1、加减法:先按小数点后位数最少的数据,保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。

2、乘除法:先按有效数字最少的数据保留其它键氏各数,再进行乘除运算,计算没拿结果仍保留相同有效数字。

3、乘方和开方:对数据进行乘方或开方时,所得结果的有效数字位数保留应与原数据相同。

例如:6.72^2=45.1584≈45.2(保留3位有效数字);「9.65=3.10644┈≈3.11(保留3位有效数字)

4、对数计算:所取对数的小数点枯亮搭后的位数(不包括整数部分)应与原数据的有效数字的位数相等。

例如:lg102=2.00860017≈2.009(保留3位有效数字)

5、在计算中常遇到分数、倍数等,可视为多位有效数字。

6、在乘除运算过程中,首位数为"8"或"9"的数据,有效数字位数可多取1位。

7、在混合计算中,有效数字的保留以最后一步计算的规则执行。

8、表示分析方法的精密度和准确度时,大多数取1~2位有效数字。

科学计数法保留有效数字需要四舍五入。

有效数字:第一个非零数字以及之后的所有数字(包高纯弊括零)都是有效数字。有效数字的保留是一种近似运算,当需要的有效数字比原本的数字少时,需要进行四舍五入的近似运算。舍入规则:

1、当保留n位有效数字,若第n+1位数字≤4就舍掉。

2、裤樱当保留n位有效数字,若第n+1位数字≥6时,则戚族第n位数字进1。

3、当保留n位有效数字,若第n+1位数字=5且后面数字为0时,则第n位数字若为偶数时就舍掉后面的数字,若第n位数字为奇数时加1;若第n+1位数字=5且后面还有不为0的任何数字时,无论第n位数字是奇或是偶都加1。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/yw/12497626.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-25
下一篇 2023-05-25

发表评论

登录后才能评论

评论列表(0条)

保存