oracle数据库中小数精度问题

oracle数据库中小数精度问题,第1张

number(14,4)是精确的存储方式。

存储999999.9999 肯定不会会出现四舍五入 的情况

应该是你自己的处理有问题吧

我这样试过了,肯定没有问题的:

create table t_test1(a number(14,4))

insert into t_test1 values(999999.9999)

select * from t_test1

drop table t_test1

单精度是一个单位,整形与长整型的区间不同。

在access中,单精度的范围:

负数:从 -3.402823E38 到 -1.401298E-45

正数:从 1.401298E-45 到 3.402823E38。

在表中有三个字段都是单精度型的(小数位2位),取出来后传给mflexgrid控件,其中一个字段的显示正常,第二个字段有些显示2位小数,有些显示7位小数,第三个字段全部显示的是7位小数,可以使用mflexgrid控件的format方法格式化一下。

p (有效位数) 可储存的最大十进位数总数,小数点左右两侧都包括在内。

s (小数位数) 小数点右侧所能储存的最大十进位数。

所以能取得最大数是38位都在小数点左边即10的38次方-1,同理最小-10的38次方+1


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/10067585.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-04
下一篇 2023-05-04

发表评论

登录后才能评论

评论列表(0条)

保存