科学记数法会影响 Perl 的精度吗？

Question

我在 Perl 中遇到了一个奇怪的行为。下面的减法应该产生零结果（Python 中就是这样）：

print 7.6178E-01 - 0.76178
-1.11022302462516e-16

为什么会发生这种情况以及如何避免它？

PS 效果出现在“为 x86_64-linux-gnu-thread-multi 构建的 v5.10.0”(Ubuntu 9.04) 和“为 darwin-2level 构建的 v5.8.9”(Mac OS 10.6) 上

Answer 1

并不是科学计数法对精度的影响如此之大，而是二进制表示的浮点计数法的局限性。请参阅 perlfaq4 的答案。对于任何依赖底层架构进行数字存储的语言来说，这都是一个问题。

• 为什么我得到的是长小数（例如，19.9499999999999）而不是我应该得到的数字（例如， 19.95)?
• 为什么 int() 被破坏了？

如果你需要更好的数字处理，请查看 bignum 编译指示。