利用 SSE 和其他 CPU 扩展

Question

在我的代码库中有几个地方，对于大型数据集，相同的操作会重复很多次。在某些情况下，处理这些需要花费相当长的时间。

我相信使用SSE来实现这些循环应该可以显着提高它们的性能，特别是在对同一组数据执行许多操作的情况下，因此一旦数据最初被读入缓存，就不应该有任何缓存未命中而停顿它。不过我不确定是否要去做这件事。

• 是否有独立于编译器和操作系统的方式编写代码以利用 SSE 指令？我喜欢 VC++ 内在函数，其中包括 SSE 操作，但我还没有找到任何交叉编译器解决方案。

• 我仍然需要支持一些没有 SSE 支持或 SSE 支持有限的 CPU（例如 Intel Celeron）。是否有某种方法可以避免必须制作不同版本的程序，例如拥有某种“运行时链接器”，可以在进程启动时根据运行该代码的 CPU 来链接基本代码或 SSE 优化代码？

• 其他CPU扩展呢，看看Intel、AMD各种CPU的指令集，有几个？

Answer 1

对于你的第二点，有几种解决方案，只要你可以将差异分离到不同的函数中：

• 普通旧的 C 函数指针
• 动态链接（通常依赖于 C 函数指针）
• 如果你使用 C++，有不同的类来表示对不同架构的支持和使用虚拟功能对此有很大帮助。

请注意，因为您依赖于间接函数调用，所以抽象不同操作的函数通常需要表示更高级别的功能，否则您可能会失去从调用开销中的优化指令中获得的任何收益（换句话说，不要这样做）不要抽象各个 SSE 操作 - 抽象您正在做的工作）。

这是使用函数指针的示例：

typedef int (*scale_func_ptr)( int scalar, int* pData, int count);


int non_sse_scale( int scalar, int* pData, int count)
{
    // do whatever work needs done, without SSE so it'll work on older CPUs

    return 0;
}

int sse_scale( int scalar, in pData, int count)
{
    // equivalent code, but uses SSE

    return 0;
}


// at initialization

scale_func_ptr scale_func = non_sse_scale;

if (useSSE) {
    scale_func = sse_scale;
}


// now, when you want to do the work:

scale_func( 12, theData_ptr, 512);  // this will call the routine that tailored to SSE 
                                    // if the CPU supports it, otherwise calls the non-SSE
                                    // version of the function

Answer 2

关于这个主题的好读物：停止指令集战争

简短概述：抱歉，无法以简单且最兼容（Intel vs. AMD）的方式解决您的问题。

Answer 3

SSE 内在函数可与 Visual C++、GCC 和 intel 编译器配合使用。这些天使用它们没有问题。

请注意，您应该始终保留不使用 SSE 的代码版本，并不断根据 SSE 实现对其进行检查。

这不仅有助于调试，如果您想要支持不支持所需 SSE 版本的 CPU 或体系结构，它也很有用。

Answer 4

回复您的评论：

如此有效，只要我不尝试实际执行包含不受支持的指令的代码就可以了，并且我可以摆脱“if(see2Supported){...}else{...}”类型开关？

视情况而定。只要 SSE 指令不被执行，就可以存在于二进制文件中。 CPU 没有这个问题。

但是，如果您在编译器中启用 SSE 支持，它很可能会将许多“正常”指令交换为其 SSE 等效项（例如标量浮点运算），因此即使是常规非 SSE 代码的块也会崩溃在不支持它的CPU上。

因此，您要做的很可能是在启用 SSE 的情况下单独编译一个或两个文件，并让它们包含所有 SSE 例程。然后将其与应用程序的其余部分链接，该应用程序是在没有 SSE 支持的情况下编译的。

Answer 5

我强烈建议您查看 OpenCL。它是一个供应商中立的便携式跨平台系统，适用于计算密集型应用程序（并且高度符合流行语！）。您可以在专为矢量化操作设计的 C99 子集中编写算法，这比手动编码 SSE 容易得多。最重要的是，OpenCL 将在运行时生成最佳实现，以便在 GPU 上或在 CPU 上执行。所以基本上你会得到为你编写的 SSE 代码。

我的代码库中有几个地方对大型数据集重复了很多次相同的操作。在某些情况下，处理这些需要花费相当长的时间。

您的应用程序听起来正是 OpenCL 旨在解决的问题。在SSE中编写替代函数固然会提高执行速度，但编写和调试的工作量很大。

是否有独立于编译器和操作系统的方式编写代码以利用 SSE 指令？我喜欢 VC++ 内在函数，其中包括 SSE 操作，但我还没有找到任何交叉编译器解决方案。

是的。 SSE 内在函数本质上已由 Intel 标准化，因此相同的函数在 Windows、Linux 和 Mac（特别是 Visual C++ 和 GNU g++）之间的工作方式相同。

我仍然需要支持一些没有 SSE 支持或 SSE 支持有限的 CPU（例如 Intel Celeron）。是否有某种方法可以避免必须制作不同版本的程序，例如拥有某种“运行时链接器”，可以在进程启动时根据运行该代码的 CPU 来链接基本代码或 SSE 优化代码？

您可以这样做（例如使用dlopen()），但这是一个非常复杂的解决方案。更简单的是（在 C 中）定义函数接口并通过函数指针调用优化函数的适当版本，或者在 C++ 中根据检测到的 CPU 使用不同的实现类。

使用 OpenCL 则无需这样做，因为代码是在运行时针对给定架构生成的。

其他 CPU 扩展呢，查看各种 Intel 和 AMD CPU 的指令集，发现有一些这样的扩展？

在 SSE 指令集中，有很多风格。当某些指令不存在时，在 SSE 的不同子集中编写相同的算法可能非常困难。我建议（至少在开始时）您选择最低支持级别，例如 SSE2，并回退到旧计算机上的标量实现。

这也是单元/回归测试的理想情况，这对于确保不同的实现产生相同的结果非常重要。拥有输入数据和已知良好输出数据的测试套件，并通过两个版本的处理函数运行相同的数据。您可能需要进行精确度测试才能通过（例如，结果与正确答案之间的差异 epsilon 低于 1e6）。这将极大地帮助调试，如果您在测试框架中构建高分辨率计时，您可以同时比较性能改进。