OpenMP 缓慢还原

Question

我编写了简单的 C++ 代码来计算数组缩减总和，但使用 OpenMP 缩减程序运行缓慢。程序有两种变体：一种是最简单的求和，另一种是复杂数学函数的求和。在代码中，复杂的变体被注释。

#include <iostream>
#include <omp.h>
#include <math.h>

using namespace std;

#define N 100000000
#define NUM_THREADS 4

int main() {

  int *arr = new int[N];

  for (int i = 0; i < N; i++) {
    arr[i] = i;
  }

  omp_set_num_threads(NUM_THREADS);
  cout << NUM_THREADS << endl;

  clock_t start = clock();
  int sum = 0;
  #pragma omp parallel for reduction(+:sum)
  for (int i = 0; i < N; i++) {
    // sum += sqrt(sqrt(arr[i] * arr[i])); // complex variant
    sum += arr[i]; // simple variant
  }

  double diff = ( clock() - start ) / (double)CLOCKS_PER_SEC;
  cout << "Time " << diff << "s" << endl;

  cout << sum << endl;

  delete[] arr;

  return 0;
}

我通过 ICPC 和 GCC 编译它：

icpc reduction.cpp -openmp -o reduction -O3
g++ reduction.cpp -fopenmp -o reduction -O3

处理器：Intel Core 2 Duo T5850，操作系统：Ubuntu 10.10

有简单和复杂变体的执行时间，使用和不使用 OpenMP 编译。

简单变体“sum += arr[i];”：

icpc
0.1s without OpenMP
0.18s with OpenMP

g++
0.11c without OpenMP
0.17c with OpenMP

复杂变体“sum += sqrt(sqrt(arr[i] * arr[i]));” ：

icpc
2,92s without OpenMP
3,37s with OpenMP

g++ 
47,97s without OpenMP
48,2s with OpenMP

在系统监视器中，我看到 2 个核心在使用 OpenMP 的程序中工作，1 个核心在没有 OpenMP 的程序中工作。我将在 OpenMP 中尝试多个线程，但没有加速。我不明白为什么减少很慢。

Answer 1

函数clock()测量整个进程消耗的处理器时间，因此打印的时间显示所有线程消耗的时间总和。如果您想查看墙上时间（从开始到结束的实时时间），请使用例如 times() 函数

Answer 2

您所做的事情非常简单，以至于您可能会受到内存带宽的限制。在工作量远远超过从工作中获取数据和从工作中获取数据所需的时间之前，我很少获得任何加速。另外，归约在合并所有子结果方面需要额外的工作。