我甚至不介意结果是字符串而不是数字,只要它具有正确的小数位数.
任何帮助,将不胜感激.
艾伦
sqlite内部使用IEEE二进制浮点运算,这对于维持特定数量的小数确实不适合.要获得这种类型的十进制处理,需要以下方法之一:>定点数学,或
> IEEE十进制浮点(相当罕见),或
>将所有内容都视为字符串
在提取之后格式化值(从浮点转换为字符串)是实现事物的最简单方法.您甚至可以在某种包装器中隐藏它,以便其余的代码不必处理后果.但是如果你以后要对值进行算术运算,那么你最好不要格式化,而是使用查询返回的值,因为格式并重新转换回二进制浮点(Python使用,就像绝大多数其他现代语言)以降低的精度丢失了大量信息.
总结以上是内存溢出为你收集整理的SQLite的小数位问题全部内容,希望文章能够帮你解决SQLite的小数位问题所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)