Visual C++中双精度类型的数值精度2008 快速调试器

Question

我正在使用 Visual C++ 2008 Express Edition，当我调试代码时：

double x = 0.2;

我在 x 0.20000000000000001 上的调试工具提示中看到

，但是：

typedef numeric_limits< double > double_limit; 
int a = double_limit::digits10

给了我： a = 15

为什么调试器中的结果比正常的 c++ 精度长？ 这种奇怪的精度是基于什么？

我的CPU是Intel Core 2 Duo T7100

Answer 1

您需要阅读以下内容：每个计算机科学家都应该了解浮点运算< /a>

Answer 2

您所看到的情况是由于实数（读取浮点数）无法在二进制计算机中以完美的精度和准确度表示的事实造成的。这是生活的事实。相反，计算机近似该值并以定义的格式将其存储在内存中。

对于大多数现代计算机（包括运行 MSVC Express 的任何计算机），此格式为 IEEE 754。

长话短说，这就是实数在 IEEE 754 中的存储方式：有 1 个符号位、8 个指数位和 23 个小数位（对于 float 数据类型 - double相应地使用更多位，但格式相同）。因此，您永远无法达到完美的精度和准确度。幸运的是，您几乎可以为任何应用程序（包括关键的金融系统和科学系统）实现足够的准确性和精度。

您无需了解有关 IEEE754 的所有知识即可在代码中使用浮点。但有一些事情您必须知道：

1) 由于浮点计算和计算中固有的舍入误差，您永远无法比较 2 个浮点值是否相等。贮存。相反，您必须执行以下操作：

double d = 0.2;
double compare = 0.000000001;

double d2 = something;

if( (d - d2 < compare) && (d2 - d < compare) )
{
  // numbers are equal
}

2) 舍入误差复合。对浮点值执行运算的次数越多，精度损失就越大。

3) 不能将两个大小相差很大的浮点数相加。例如，您不能将 1.5x10^30 和 1.5x10^-30 加起来并期望 60 位精度。

Answer 3

双文本 0.2 给出的确切值是 0.200000000000000011102230246251565404236316680908203125。

大多数输出​​双精度数的函数都会在一定数量的小数位后进行截断，这就是为什么您会产生 0.2 实际上产生 0.2 的错觉，

以下是我获得准确值的方法：

public static void main(String[] args)
{
    System.out.println(new java.math.BigDecimal(0.2));
}