数学“pow”的 SSE 向量化函数海湾合作委员会

Question

我试图对包含数学库中“pow”函数的使用的循环进行矢量化。我知道英特尔编译器支持对 sse 指令使用“pow” - 但我似乎无法让它与 gcc 一起运行（我认为）。这就是我正在处理的情况：

int main(){
        int i=0;
        float a[256],
        b[256];

        float x= 2.3;


        for  (i =0 ; i<256; i++){
                a[i]=1.5;
        }

        for (i=0; i<256; i++){
                b[i]=pow(a[i],x);
        }

        for (i=0; i<256; i++){
                b[i]=a[i]*a[i];
        }
    return 0;

}

我正在使用以下内容进行编译：

gcc -O3 -Wall -ftree-vectorize -msse2 -ftree-vectorizer-verbose=5 code.c -o runthis

这是在 os X 10.5.8 上使用 gcc 版本 4.2（我也使用了 4.5，无法判断它是否对任何内容进行了矢量化 - 因为它没有）根本不输出任何内容）。似乎没有一个循环矢量化 - 是否存在对齐问题或其他一些我不需要使用限制的问题？如果我将其中一个循环编写为函数，我会得到稍微更详细的输出（代码）：

void pow2(float *a, float * b, int n) {
        int i;
        for (i=0; i<n; i++){
                b[i]=a[i]*a[i];
        }
}

输出（使用级别 7 详细输出）：

note: not vectorized: can't determine dependence between *D.2878_13 and *D.2877_8
bad data dependence.

我查看了 gcc 自动矢量化 页面但这并没有多大帮助。如果无法在 gcc 版本中使用 pow，我在哪里可以找到执行 pow 等效函数的资源（我主要处理整数幂）。

编辑所以我只是深入研究其他来源 - 它是如何矢量化的？！：

void array_op(double * d,int len,double value,void (*f)(double*,double*) ) { 
    for ( int i = 0; i < len; i++ ){
        f(&d[i],&value);
    }
};

相关的 gcc 输出：

note: Profitability threshold is 3 loop iterations.

note: LOOP VECTORIZED.

现在我不知所措 - 'd'和'value'被修改通过 gcc 不知道的函数 - 奇怪吗？也许我需要更彻底地测试这部分，以确保矢量化部分的结果是正确的。仍在寻找矢量化数学库 - 为什么没有开源库？

Answer 1

在写入输出之前使用 __restrict 或使用输入（分配给本地变量）应该会有所帮助。

现在，编译器无法矢量化，因为 a 可能会别名 b，因此并行执行 4 次乘法并写回 4 个值可能不正确。

（请注意，__restrict 不能保证编译器矢量化，但可以说的是，现在它肯定不能）。

Answer 2

这并不是你问题的真正答案；而是关于如何完全避免这个问题的建议。

你提到你使用的是 OS X；该平台上已经有 API 可以提供您正在查看的操作，而无需自动矢量化。您不使用它们有什么原因吗？自动矢量化确实很酷，但它需要一些工作，而且一般来说，它产生的结果不如使用已经为您矢量化的 API 更好。

#include <string.h>
#include <Accelerate/Accelerate.h>

int main() {

    int n = 256;
    float a[256],
    b[256];

    // You can initialize the elements of a vector to a set value using memset_pattern:
    float threehalves = 1.5f;
    memset_pattern4(a, &threehalves, 4*n);

    // Since you have a fixed exponent for all of the base values, we will use
    // the vImage gamma functions.  If you wanted to have different exponents
    // for each input (i.e. from an array of exponents), you would use the vForce
    // vvpowf( ) function instead (also part of Accelerate).
    //
    // If you don't need full accuracy, replace kvImageGamma_UseGammaValue with
    // kvImageGamma_UseGammaValue_half_precision to get better performance.
    GammaFunction func = vImageCreateGammaFunction(2.3f, kvImageGamma_UseGammaValue, 0);
    vImage_Buffer src = { .data = a, .height = 1, .width = n, .rowBytes = 4*n };
    vImage_Buffer dst = { .data = b, .height = 1, .width = n, .rowBytes = 4*n };
    vImageGamma_PlanarF(&src, &dst, func, 0);
    vImageDestroyGammaFunction(func);

    // To simply square a instead, use the vDSP_vsq function.
    vDSP_vsq(a, 1, b, 1, n);

    return 0;
}

更一般地说，除非您的算法非常简单，否则自动矢量化不太可能提供出色的结果。根据我的经验，矢量化技术的范围通常如下所示：

better performance                                            worse performance
more effort                                                         less effort
+------+------+----------------------+----------------------------+-----------+
|      |      |                      |                            |           |
|      |  use vectorized APIs        |                   auto vectorization   |
|  skilled vector C                  |                              scalar code
hand written assembly       unskilled vector C