习题9-3 平面向量加法

习题9-3 平面向量加法,第1张

习题9-3 平面向量加法

在做这个题目的时候,没有考虑到当结果大于-0.05但仍为负数时候,会出现-0.0这样的情况

只有绝对值大于0.05,四舍五入是0.1,就没负数的情况
所以当绝对值小于0.05的时候,直接处理成0.

但是我数据定义的类型是单精度,运行依然报错。搜索了大佬的代码,发现数据类型应该是双精度。
因为单精度在换算成二进制的时候舍弃的部分比双精度多,所以产生的误差也就更多。具体的换算可以看这篇笔记 Java中 float、double使用注意问题

欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/langs/889810.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-14
下一篇 2022-05-14

发表评论

登录后才能评论

评论列表(0条)

保存