OpenMP 程序性能低下

Question

我试图从 此处 理解 openmp 代码。您可以看到下面的代码。

1. 为了测量加速比，串行版本和omp版本之间的差异，我使用time.h，你觉得这种方法正确吗？

2. 该程序在 4 核机器上运行。我指定 export OMP_NUM_THREADS="4" 但看不到明显的加速，通常我得到 1.2 - 1.7。我在并行化过程中遇到了哪些问题？

3. 我可以使用哪种调试/性能工具来查看性能损失？

代码（对于编译，我使用xlc_r -qsmp=omp omp_workshare1.c -o omp_workshare1.exe）

#include <omp.h>
#include <stdio.h>
#include <stdlib.h>
#include <sys/time.h>
#define CHUNKSIZE   1000000
#define N       100000000

int main (int argc, char *argv[]) 
{
    int nthreads, tid, i, chunk;
    float a[N], b[N], c[N];
    unsigned long elapsed;
    unsigned long elapsed_serial;
    unsigned long elapsed_omp;
    struct timeval start;
    struct timeval stop;


    chunk = CHUNKSIZE;

    // =================    SERIAL     start =======================
    /* Some initializations */
    for (i=0; i < N; i++)
        a[i] = b[i] = i * 1.0;
    gettimeofday(&start,NULL); 
    for (i=0; i<N; i++)
    {
        c[i] = a[i] + b[i];
        //printf("Thread %d: c[%d]= %f\n",tid,i,c[i]);
    }
    gettimeofday(&stop,NULL);
    elapsed = 1000000 * (stop.tv_sec - start.tv_sec);
    elapsed += stop.tv_usec - start.tv_usec;
    elapsed_serial = elapsed ;
    printf ("   \n Time SEQ= %lu microsecs\n", elapsed_serial);
    // =================    SERIAL     end =======================


    // =================    OMP    start =======================
    /* Some initializations */
    for (i=0; i < N; i++)
        a[i] = b[i] = i * 1.0;
    gettimeofday(&start,NULL); 
#pragma omp parallel shared(a,b,c,nthreads,chunk) private(i,tid)
    {
        tid = omp_get_thread_num();
        if (tid == 0)
        {
            nthreads = omp_get_num_threads();
            printf("Number of threads = %d\n", nthreads);
        }
        //printf("Thread %d starting...\n",tid);

#pragma omp for schedule(static,chunk)
        for (i=0; i<N; i++)
        {
            c[i] = a[i] + b[i];
            //printf("Thread %d: c[%d]= %f\n",tid,i,c[i]);
        }

    }  /* end of parallel section */
    gettimeofday(&stop,NULL);
    elapsed = 1000000 * (stop.tv_sec - start.tv_sec);
    elapsed += stop.tv_usec - start.tv_usec;
    elapsed_omp = elapsed ;
    printf ("   \n Time OMP= %lu microsecs\n", elapsed_omp);
    // =================    OMP    end =======================
    printf ("   \n speedup= %f \n\n", ((float) elapsed_serial) / ((float) elapsed_omp)) ;

}

Answer 1

上面的代码并没有什么问题，但是你的加速将受到主循环 c=a+b 几乎没有工作的限制——计算所需的时间（单个加法）将由内存访问时间（2 次加载和 1 次存储）主导，并且随着更多线程作用于阵列，内存带宽的争用也会增加。

我们可以通过使循环内的工作更加计算密集来测试这一点：

c[i] = exp(sin(a[i])) + exp(cos(b[i]));

然后我们得到的

$ ./apb

 Time SEQ= 17678571 microsecs
Number of threads = 4

 Time OMP= 4703485 microsecs

 speedup= 3.758611 

结果显然更接近预期的 4 倍加速。

更新：哦，对于其他问题 - gettimeofday() 可能适合计时，并且在您使用 xlc 的系统上 - 这是 AIX 吗？在这种情况下，peekperf 是一个很好的整体性能工具，硬件性能监视器将使您能够了解内存访问时间。在 x86 平台上，用于线程代码性能监控的免费工具包括用于缓存性能调试的 cachegrind/valgrind（不是这里的问题）、用于一般 OpenMP 问题的 scalasca，以及 OpenSpeedShop 也非常有用。