double 和 ffast-math 的自动矢量化

Question

为什么必须将 -ffast-math 与 g++ 一起使用，以使用 double 实现循环的矢量化？我不喜欢 -ffast-math 因为我不想失去精度。

Answer 1

使用 -ffast-math 不一定会损失精度。它仅影响 NaN、Inf 等的处理以及操作的执行顺序。

如果您有一段特定的代码，您不希望 GCC 重新排序或简化计算，则可以使用 asm 语句将变量标记为正在使用。

例如，以下代码对 f 执行舍入操作。但是，两个 f += g 和 f -= g 操作可能会被 gcc 优化：

static double moo(double f, double g)                                      
{                                                                          
    g *= 4503599627370496.0; // 2 ** 52                                    
    f += g;                                                                
    f -= g;                                                                
    return f;                                                            
}                                                                     

在 x86_64 上，您可以使用这个 asm 语句指示 GCC 不要执行该优化：

static double moo(double f, double g)                                      
{                                                                          
    g *= 4503599627370496.0; // 2 ** 52                                    
    f += g;                                                                
    __asm__("" : "+x" (f));
    f -= g;
    return f;
}

不幸的是，您将需要针对每个架构进行调整。在 PowerPC 上，使用 +f 而不是 +x。

Answer 2

很可能是因为矢量化意味着您可能会得到不同的结果，或者可能意味着您会错过浮点信号/异常。

如果您正在编译 32 位 x86，则 gcc 和 g++ 默认使用 x87 进行浮点数学计算，在 64 位上它们默认使用 SSE，但是 x87 可以并且将会为相同的计算生成不同的值，因此 g++ 不太可能如果不能保证获得相同的结果，除非您使用 -ffast-math 或它打开的一些标志，否则将考虑矢量化。

基本上，它归结为矢量化代码的浮点环境可能与非矢量化代码的浮点环境不同，有时以很重要的方式相同，如果差异对您来说并不重要，例如

-fno-math-errno -fno-trapping-math -fno-signaling-nans -fno-rounding-math

但首先查找这些选项并确保它们不会影响你的程序的正确性。 -ffinite-math-only 也可能有帮助

Answer 3

因为 -ffast-math 启用操作数重新排序，从而允许对许多代码进行矢量化。

例如，要计算此值，

sum = a[0] + a[1] + a[2] + a[3] + a[4] + a[5] + … a[99]

编译器要求按顺序进行加法，而无需-ffast-math，因为浮点数学既不满足交换律，也不满足交换律。联想的。

• 浮点加法是否可交换和结合？
• C++ 中浮点加法可交换吗？
• C 中的浮点运算是否具有关联性？
• 浮点加法和乘法是否具有关联性？

这也是同样的原因 为什么编译器无法将 a*a*a*a*a*a 优化为 (a*a *a)*(a*a*a) 没有 -ffast-math

这意味着除非您有非常高效的水平向量加法，否则无法进行向量化。

但是，如果启用 -ffast-math，则可以计算表达式 像这样（查看A7.自动向量化）

sum0 = a[0] + a[4] + a[ 8] + … a[96]
sum1 = a[1] + a[5] + a[ 9] + … a[97]
sum2 = a[2] + a[6] + a[10] + … a[98]
sum3 = a[3] + a[7] + a[11] + … a[99]
sum’ = sum0 + sum1 + sum2 + sum3

现在编译器可以通过并行添加每一列来轻松对其进行向量化，然后在结束

sum' == sum 吗？仅当 (a[0]+a[4]+…) + (a[1]+a[5]+…) + (a[2]+a[6]+…) + ([a [3]+a[7]+…) == a[0] + a[1] + a[2] + … 这在结合性下成立，浮点数始终不遵守结合性。指定 /fp:fast 可以让编译器转换您的代码以使其运行速度更快 - 对于这个简单的计算，速度最多可提高 4 倍。

您喜欢快速还是精确？ - A7。自动矢量化

可以通过 -fassociative-math gcc 中的标志

进一步阅读

• GCC 中浮点数学的语义
• gcc 的 ffast-math 实际上是做什么的？

Answer 4

要使用 gcc 启用自动矢量化，ffast-math 实际上并不是必需的。请参阅 https://gcc.gnu.org/projects/tree-ssa /矢量化.html#using

要启用浮点缩减的矢量化，请使用 -ffast-math 或 -fassociative-math。

使用 -fassociative-math 应该就足够了。

自 2007 年以来一直是这种情况，请参阅 https://gcc.gnu .org/projects/tree-ssa/vectorization.html#oldnews

可以使用 -fassociative-math 代替 -ffast-math 来实现浮点数减少的矢量化 (2007-09-04)。