python—decimal高精度浮点数使用

python—decimal高精度浮点数使用,第1张

python—decimal高精度浮点数使用 基础使用
import decimal

print(decimal.Decimal(1.1) + decimal.Decimal(3.3))
print(decimal.Decimal(1.1) - decimal.Decimal(3.3))
print(decimal.Decimal(1.1) * decimal.Decimal(3.3))
print(decimal.Decimal(1.1) / decimal.Decimal(3.3))

'''
4.399999999999999911182158030
-2.199999999999999733546474090
3.630000000000000097699626167
0.3333333333333333781908292778
'''
设置有效位数
import decimal

print(decimal.Decimal(1.1) * decimal.Decimal(3.3))
decimal.getcontext().prec = 2
print(decimal.Decimal(1.1) * decimal.Decimal(3.3))

'''
3.630000000000000097699626167
3.6
'''
设置小数位数
import decimal

print(decimal.Decimal(1.1) * decimal.Decimal(3.3))
print((decimal.Decimal(1.1) * decimal.Decimal(3.3)).quantize(decimal.Decimal('0.00')))

'''
3.630000000000000097699626167
3.63
'''
比较两个Decimal的值

不相等为1
相等为0

import decimal

print(decimal.Decimal(3.0).compare(decimal.Decimal(2.0)))
print(decimal.Decimal(3.0).compare(decimal.Decimal(3)))
'''
1
0
'''

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5701317.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-17
下一篇 2022-12-17

发表评论

登录后才能评论

评论列表(0条)

保存