OpenMP C 并行化嵌套 for 循环速度较慢

Question

我一直在尝试并行化嵌套循环，如下所示：

http://pastebin.com/nkictYsw

I'我比较了该代码的顺序版本和并行版本的执行时间，但顺序版本似乎总是具有各种输入的更短的执行时间？

程序的输入是：

• numParticles（循环索引）
• timeStep（不重要，值不会改变）
• numTimeSteps（循环索引）
• numThreads（要使用的线程数）

我浏览了网络并尝试了一些东西（等等）并没有真正改变。我很确定并行代码是正确的，因为我检查了输出。我在这里做错了什么吗？

编辑：另外，似乎你不能在 C 结构上使用归约子句？

EDIT2：在 2 核 cpu 的 linux 上使用 gcc 工作。我尝试使用高达 numParticles = 40 和 numTimeSteps = 100000 的值来运行此程序。也许我应该尝试更高的值？

谢谢

Answer 1

您的循环可能太小。创建线程来处理循环的一部分会产生相关开销，因此如果循环太小，并行版本可能会运行得更慢。另一个考虑因素是可用核心的数量。

您的第二个 omp 指令不太可能有用，因为该循环中的计算量少得多。我建议将其删除。

编辑：我使用 numParticles 1000 和两个线程测试了您的代码。 30秒就跑完了。单线程版本运行时间为 57 秒。即使使用 numParticles 40，我也看到了显着的加速。这是 Visual Studio 2010。

Answer 2

我可以想到两个可能的减速来源：a) 编译器在顺序版本中进行了一些优化（首先是向量化），但在 OpenMP 版本中没有，b) 线程管理开销。如果您还使用单线程运行 OpenMP 版本（即将 numThreads 设置为 1），则两者都很容易检查。如果它比顺序慢得多，则 (a) 是最可能的原因；如果它与顺序类似并且比具有 2 个线程的相同代码更快，则最可能的原因是 (b)。

在后一种情况下，您可以重组 OpenMP 代码以减少开销。首先，循环内没有必要有两个并行区域（#pragma omp parallel）；您可以在其中拥有一个并行区域和两个并行循环：

for (t = 0; t <= numTimeSteps; t++) {
    #pragma omp parallel num_threads(numThreads)
    {
    #pragma omp for private(j)
    /* The first loop goes here */
    #pragma omp for
    /* The second loop goes here */
    }
}

然后，可以在时间步循环之前启动并行区域：

#pragma omp parallel num_threads(numThreads) private(t)
for (t = 0; t <= numTimeSteps; t++) {
    ...
}

然后该区域中的每个线程将运行此循环，并且在每次迭代时线程将在 OpenMP 结束时同步循环。这样，无论使用哪种 OpenMP 实现，您都可以确保同一组线程在整个计算中运行。