ruby to_f 错误或乘法运算符错误？

Question

您好，我刚刚遇到一个问题，Ruby 的 to_f 函数给我的结果不一致。

ruby-1.9.2-head :026 > 8.45.to_f * 100
 => 844.9999999999999 

ruby-1.9.2-head :027 > 4.45.to_f * 100
 => 445.0 


ruby-1.9.2-head :028 > 4.35.to_f * 100
 => 434.99999999999994 

我的解决方法是简单地以这种方式对结果进行舍入

ruby-1.9.2-head :029 > (4.35.to_f * 100).round
 => 435 

经过更多尝试后，我意识到问题可能出在乘法运算符 * 100

Answer 1

欢迎来到浮点漂移。这是一个很好理解的问题，你应该读一读，这样你至少自己就能理解它。例如，请查看以下文章：

• 什么每个计算机科学家都应该了解浮点漂移

Answer 2

Float 的问题已经提到过。请参阅检查其他答案。

更多评论：

您编写了 4.35.to_f。在这种情况下，to_f 不是必需的。
4.35 已经是一个 Float：

p 4.35.class #-> Float

你在哪里认识到问题的。当您打印数字时，该值已经四舍五入。
使用 String#% 您可以确定输出的详细级别：

p 8.45.to_f * 100 #->845.0
p "%.12f" % (8.45.to_f * 100) # -> "845.000000000000"
p "%.13f" % (8.45.to_f * 100) # -> "844.9999999999999"
p "%.14f" % (8.45.to_f * 100) # -> "844.99999999999989"
p "%.16f" % (8.45.to_f * 100) # -> "844.9999999999998900"

Answer 3

唉，这是浮点数学诅咒的一部分，而不仅仅是 Ruby 中的问题：

http://en.wikipedia.org/wiki/Floating_point#Representable_numbers.2C_conversion_and_rounding

如果您需要精确的小数算术，请使用大十进制：

require 'bigdecimal'

(BigDecimal('4.35') * 100).to_f
  #=> 435.0 

Answer 4

根本问题是分数 45/100 没有精确表示为 1/2ⁿ 项的序列。事实上，大多数用少量 10 进制数字书写的分数没有精确的 FP 表示。

因此，您得到的实际数字与 10 进制数字非常接近，但并不精确。输出结果将取决于您舍入的位置，但如果您在舍入时做了任何最合理的事情，那么输出结果将是正确的。

如果不四舍五入，您得到的确切数字将取决于分数被截断的位置以及您尝试转换的位数。分数被截断的位置取决于需要多少位来表示尾数。这就是为什么您会根据 x 得到不同的 x.45 结果。

这个问题在堆栈溢出时总是出现。我想我们需要一个浮点常见问题解答。

讽刺的是，每个（在范围内）整数值都具有精确的浮点格式表示。