Python十进制&包提供错误的结果错误、结果、Python、十进制

2023-09-04 01:40:51 作者:半岛始梦°

我尝试通过设置getcontext().prec = 800计算以下结果。

>>> from decimal import *
>>> getcontext().prec = 800
>>> Decimal(22.0) / Decimal ( 10.0) - Decimal ( 0.2 )
Decimal('1.999999999999999988897769753748434595763683319091796875')
>>> 

但预期结果为2。我哪里做错了?

推荐答案

二进制如何转化为十进制

从浮点数构造小数时,会得到浮点数的精确值,但可能与小数值不完全匹配,因为浮点数就是这样工作的。

如果要进行精确的小数运算,请使用字符串而不是浮点数来构造Decimal对象:

>>> Decimal('22.0') / Decimal('10.0') - Decimal('0.2')
Decimal('2.0')
 
精彩推荐
图片推荐