添加两个双精度数给出错误结果

Question

我正在使用下面的一段代码，在一些神秘的情况下，添加的结果并不像预期的那样：

double _west = 9.482935905456543;
double _off = 0.00000093248155508263153;
double _lon = _west + _off;

// check for the expected result
Debug.Assert(_lon == 9.4829368379380981);
// sometimes i get 9.48293685913086 for _lon (which is wrong)

我在我的应用程序中使用了一些本机 DLL，并且我怀疑某些 DLL 造成了这种“错误计算” ，但我需要弄清楚是哪一个。 谁能告诉我如何找出问题的根源？

Answer 1

起初我认为这是一个舍入错误，但实际上你的断言是错误的。 尝试添加计算的整个结果，而不进行任意舍入。

尝试一下：

using System;

class Program
{
    static void Main()
    {
        double _west = 9.482935905456543;
        double _off = 0.00000093248155508263153;
        double _lon = _west + _off;

        // check for the expected result
        Console.WriteLine(_lon == 9.48293683793809808263153);       
    }
}

将来，如果您需要避免通常与 System.Single 和 相关的舍入错误，最好使用 System.Decimal >System.Double 类型。

然而，话虽这么说，但这里的情况并非如此。 通过在给定点任意舍入数字，您会假设该类型也会在同一点舍入，但这不是它的工作方式。 浮点数存储为其最大表示容量，只有达到该阈值后才会进行舍入。

Answer 2

问题是 Double 仅具有 15 - 16 位的精度（并且您在示例中似乎需要更高的精度），而 Decimal 的精度为 28 - 29。您如何在 Double 和 Decimal 之间进行转换？

Answer 3

您正受到舍入和精度问题的困扰。 请参阅此。 小数可能有帮助。 请访问此处了解有关转换和舍入的详细信息。

来自 MSDN：

当您将 float 或 double 转换为十进制时，源值将转换为十进制表示形式，并根据需要四舍五入到小数点后第 28 位之后的最接近的数字。 根据源值的值，可能会出现以下结果之一：

如果源值太小而无法表示为小数，则结果为零。

如果源值为 NaN（不是数字）、无穷大或太大而无法表示为小数，则会引发 OverflowException。

Answer 4

您无法用二进制系统中的浮点数准确地表示十进制系统中的每个浮点数，这甚至与十进制数的“小”程度没有直接关系，有些数字只是不“适合”基数 - 2 很好。

在大多数情况下，使用较长的位宽度会有所帮助，但并非总是如此。

要以 Decimal（128 位浮点）精度指定常量，请使用以下声明：

decimal _west = 9.482935905456543m;
decimal _off = 0.00000093248155508263153m;
decimal _lon = _west + _off;

Answer 5

double 并不完全准确，请尝试使用decimal 代替

使用double 和float 相对于decimal 的优点是性能