嵌套循环和 openmp 的问题

Question

我在将 openmp 应用于这样的嵌套循环时遇到问题：

        #pragma omp parallel shared(S2,nthreads,chunk) private(a,b,tid)
    {
        tid = omp_get_thread_num();
        if (tid == 0)
        {
            nthreads = omp_get_num_threads();
            printf("\nNumber of threads = %d\n", nthreads);
        }
        #pragma omp for schedule(dynamic,chunk)
        for(a=0;a<NREC;a++){
            for(b=0;b<NLIG;b++){
                S2=S2+cos(1+sin(atan(sin(sqrt(a*2+b*5)+cos(a)+sqrt(b)))));
            }
        } // end for a
    } /* end of parallel section */

当我将序列号与 openmp 版本进行比较时，最后一个给出了奇怪的结果。即使当我删除 #pragma omp for 时，openmp 的结果也不正确，您知道为什么或者可以指出一个关于双循环和 openmp 的很好的教程吗？

Answer 1

这是竞争条件的典型示例。每个 openmp 线程都同时访问和更新共享值，并且不能保证某些更新不会丢失（最好的情况），或者生成的答案不会是乱码（最坏的情况）。

竞争条件的问题在于它们对时间的依赖性非常敏感。在较小的情况下（例如，较小的 NREC 和 NLIG），您有时可能会错过这一点，但在较大的情况下，它最终总会出现。

没有使用 #pragma omp for 时得到错误答案的原因是，一旦进入并行区域，所有 openmp 线程都会启动；除非您使用诸如 omp for（所谓的工作共享构造）之类的东西来分割工作，否则每个线程将在并行部分中执行所有操作 - 因此所有线程线程将执行相同的全部总和，同时更新 S2。

您必须小心 OpenMP 线程更新共享变量。 OpenMP 具有原子操作，允许您安全地修改共享变量。下面是一个示例（不幸的是，您的示例对求和顺序非常敏感，很难看出发生了什么，所以我对您的总和进行了一些更改：）。在mysumallatomic中，每个线程像以前一样更新S2，但这一次它是安全完成的：

#include <omp.h>
#include <math.h>
#include <stdio.h>

double mysumorig() {

    double S2 = 0;
    int a, b;
    for(a=0;a<128;a++){
        for(b=0;b<128;b++){
            S2=S2+a*b;
        }
    }

    return S2;
}


double mysumallatomic() {

    double S2 = 0.;
#pragma omp parallel for shared(S2)
    for(int a=0; a<128; a++){
        for(int b=0; b<128;b++){
            double myterm = (double)a*b;
            #pragma omp atomic
            S2 += myterm;
        }
    }

    return S2;
}


double mysumonceatomic() {

    double S2 = 0.;
#pragma omp parallel shared(S2)
    {
        double mysum = 0.;
        #pragma omp for
        for(int a=0; a<128; a++){
            for(int b=0; b<128;b++){
                mysum += (double)a*b;
            }
        }
        #pragma omp atomic
        S2 += mysum;
    }
    return S2;
}

int main() {
    printf("(Serial)      S2 = %f\n", mysumorig());
    printf("(All Atomic)  S2 = %f\n", mysumallatomic());
    printf("(Atomic Once) S2 = %f\n", mysumonceatomic());
    return 0;
}

然而，原子操作确实损害了并行性能（毕竟，重点是防止围绕变量S2进行并行操作！）因此更好的方法是进行求和，并且只在两次求和之后进行原子操作，而不是进行 128*128 次；这就是 mysumonceatomic() 例程，每个线程只会产生一次同步开销，而不是每个线程 16k 次。

但这是一个很常见的操作，没有必要自己实现。可以使用 OpenMP 内置功能进行归约运算（归约是一种运算，例如计算列表的总和、查找列表的最小值或最大值等，一次只能通过查看一个元素来完成）到目前为止的结果和下一个元素）按照@ejd的建议。 OpenMP 可以工作并且速度更快（它的优化实现比您自己使用其他 OpenMP 操作执行的操作要快得多）。

正如您所看到的，两种方法都有效：

$ ./foo
(Serial)      S2 = 66064384.000000
(All Atomic)  S2 = 66064384.000000
(Atomic Once) S2 = 66064384.00000

Answer 2

问题不在于双循环，而在于变量 S2。尝试在 for 指令中添加一个归约子句：

#pragma omp for Schedule(dynamic,chunk)归约(+:S2)