数组中值的快速乘法

Question

是否有一种快速方法可以在 C++ 中乘以浮点数组的值，以优化此函数（其中 count 是 4 的倍数）：

void multiply(float* values, float factor, int count)
{
    for(int i=0; i < count; i++)
    {
        *value *= factor;
        value++;
    }
}

解决方案必须适用于 Mac OS X 和 Windows、Intel 和非-英特尔。想想 SSE、矢量化、编译器（gcc 与 MSVC）。

Answer 1

如果您希望代码是跨平台的，那么您要么必须编写与平台无关的代码，要么必须编写大量 #ifdef。

您是否尝试过一些手动循环展开，看看它是否有什么不同？

Answer 2

由于您知道 count 是 4 的倍数，因此您可以展开循环...

void multiply(float* values, float factor, int count)
{
    count = count >> 2; // count / 4
    for(int i=0; i < count ; i++)
    {
        *value *= factor;
        *(value+1) *= factor;
        *(value+2) *= factor;
        *(value+3) *= factor;
        value += 4;
    }
}

Answer 3

免责声明：显然，这不适用于 iPhone、iPad、Android 或未来的同类产品。

#include <mmintrin.h>
#include <xmmintrin.h>

__m128 factor4 = _mm_set1_ps(factor);
for (int i=0; i+3 < count; i += 4)
{
   __m128 data = _mm_mul_ps(_mm_loadu_ps(values), factor4);
   _mm_storeu_ps(values, data);
   values += 4;
}
for (int i=(count/4)*4; i < count; i++)
{
   *values *= factor;
   value++;
}

Answer 4

您考虑过 OpenMP 吗？

大多数现代计算机都具有多核 CPU，几乎每个主要编译器似乎都内置了 OpenMP。您几乎不付出任何代价即可获得速度。

请参阅Wikipedia 有关 OpenMP 的文章。

Answer 5

最好的解决方案是保持简单，并让编译器为您优化它。
GCC 了解 SSE、SSE2、altivec 以及其他内容。
如果您的代码太复杂，您的编译器将无法针对每个可能的目标对其进行优化。

Answer 6

正如您所提到的，有许多架构具有 SIMD 扩展，并且 SIMD 可能是优化时的最佳选择。然而，它们都是特定于平台的，并且 C 和 C++ 语言对 SIMD 不友好。

然而，您应该尝试的第一件事是为给定的构建启用 SIMD 特定标志。编译器可以识别可以使用 SIMD 优化的模式。

接下来是在适当的情况下使用编译器内部函数或汇编语言编写平台特定的 SIMD 代码。但是，您应该为没有优化版本的平台保留可移植的非 SIMD 实现。 #ifdef 在支持 SIMD 的平台上启用 SIMD。

最后，至少在 ARM 上（但在 Intel 上不确定）要注意，较小的整数和浮点类型允许每个 SIMD 指令执行更多数量的并行操作。

Answer 7

我认为，你能做的事情并不多，不会产生很大的影响。也许您可以使用 OpenMP 或 SSE 稍微加快速度。但现代 CPU 已经相当快了。在某些应用程序中，内存带宽/延迟实际上是瓶颈，而且情况会变得更糟。我们已经有了三级缓存，需要智能预取算法来避免巨大的延迟。因此，考虑内存访问模式也是有意义的。例如，如果您实现这样的乘和加并像这样使用它：

void multiply(float vec[], float factor, int size)
{
  for (int i=0; i<size; ++i)
    vec[i] *= factor;
}

void add(float vec[], float summand, int size)
{
  for (int i=0; i<size; ++i)
    vec[i] += summand;
}

void foo(float vec[], int size)
{
  multiply(vec,2.f,size);
  add(vec,9.f,size);
}

您基本上在内存块上传递了两次。根据向量的大小，它可能不适合 L1 缓存，在这种情况下，传递它两次会增加一些额外的时间。这显然很糟糕，您应该尝试将内存访问保持在“本地”。在这种情况下，单个循环

void foo(float vec[], int size)
{
  for (int i=0; i<size; ++i) {
    vec[i] = vec[i]*2+9;
  }
}

可能会更快。根据经验：尝试线性访问内存并尝试“本地”访问内存，我的意思是，尝试重用 L1 缓存中已有的数据。只是一个想法。