将浮点数除以 10

Question

可能的重复：
为什么十进制数不能用二进制精确表示？

我正在开发一个非常简单的算法，用于在 C++ 下使用数学。

我有一个名为“step”的浮点变量，每次完成 while 循环时，我都需要将 step 除以 10。

所以我的代码有点像这样，

float step = 1;
while ( ... ){
      //the codes
      step /= 10;
}

在我愚蠢的简单逻辑中，结果很好。步骤将除以 10，从 1 到 0.1，从 0.1 到 0.01。

但事实并非如此，而是出现了类似 0.100000000001 的内容。我当时就想“到底是什么”

有人能帮我解决这个问题吗？这可能是我不完全理解的数据类型本身的问题。因此，如果有人可以进一步解释，我们将不胜感激。

Answer 1

这是一个数字问题。问题是 1/10 是一个无限长的二进制数，连续除以 10 会导致每一步的误差相加。为了获得更稳定的版本，您应该乘以除数。但请注意：结果也不准确！您可能需要将浮点型替换为双精度型以最小化错误。

unsigned int div = 1;
while(...)
{
    double step = 1.0 / (double)div;
    ....
    div *= 10;
}

Answer 2

对于二进制浮点算术来说，除以 1 不能精确，因此您看到的结果与您的预期有点不同。

二进制浮点表示为整数比，其中分母是 2 的幂。由于不存在完全等于十分之一的二进制分数，因此您将看到最接近的可表示数字，而不是您期望的数字。