OpenMP中的默认循环迭代计划

Question

我使用了OpenMP：我发现的以下语句

omp_set_num_threads(6);
#pragma omp parallel for
for(int i = 0; i < NUMS; ++i){
    printf("id is %3d   thread is %d\n",i, omp_get_thread_num());
}

（在博客文章中）：每个线程都会均匀分配，并且当线程数不被迭代次数排除时，它将被舍入。

好吧，我首先设置 nums = 17 ，结果如下：

id is  12   thread is 4
id is  13   thread is 4
id is  14   thread is 4
id is   9   thread is 3
id is  10   thread is 3
id is  11   thread is 3
id is   0   thread is 0
id is   1   thread is 0
id is   2   thread is 0
id is   6   thread is 2
id is   7   thread is 2
id is   8   thread is 2
id is  15   thread is 5
id is  16   thread is 5
id is   3   thread is 1
id is   4   thread is 1
id is   5   thread is 1

可以看出，\ lceil 17/6 \ rceil = 3（圆形，请原谅我，我不知道该如何插入乳胶公式），结果是预期的。

但是，如果我设置 nums = 19 ，根据舍入的19/6 = 4，则应分配每个线程4个迭代：

id is   0   thread is 0
id is   1   thread is 0
id is   2   thread is 0
id is   3   thread is 0
id is  10   thread is 3
id is  11   thread is 3
id is  12   thread is 3
id is   7   thread is 2
id is   8   thread is 2
id is   9   thread is 2
id is  13   thread is 4
id is  14   thread is 4
id is  15   thread is 4
id is   4   thread is 1
id is   5   thread is 1
id is   6   thread is 1
id is  16   thread is 5
id is  17   thread is 5
id is  18   thread is 5

如您所见，只有第一个分配了4个迭代。

所以我现在无法弄清楚，这到底是什么原因？ OpenMP的默认线程调度到底是什么？

Answer 1

总结所有评论以创建答案（因此要感谢所有评论的人）。

首先，标准所说的要求： -

• 它说没有任何时间表在未指定时使用哪个时间表。
• Schedule（static）没有Chunk_size仅指定为“大致相等”的迭代数量，向每个可用线程分配。

其次，当前实际上发生的事情是： -

• 编译器默认为使用 schedule（static）时，未指定时间表。 （尽管 schedule（非单调：动态）现在可能是一个更好的选择。）

• 至少LLVM OpenMP运行时将迭代分配给线程，如此Python代码所示（关键部分是 mycount ，其余的只是为了测试并显示您的测试用例）。

   ＃＃
  ＃显示分配给每个线程的迭代次数
  ＃在LLVM运行时按计划（静态）
  ＃
  
   def mycount（我，numthreads，总计）：
       base = total // numthreads
       剩余=总％numthreads
       返回基础+1如果我＆lt;其余的其他基础
  
   DEF测试（Numthreads，Total）：
       打印（“线程：”，numthreads，“迭代：”，总计）
       分配= 0
       对于范围内的线程（0，numthreads）：
           mine = mycount（线程，numthreads，总计）
           分配 +=我的
           打印（线程，“：”，我的）
       如果分配了！=总计：
           打印（“ ***错误***”，分配，“分配”，总计，“请求”）
   测试（6,17）
   测试（6,19）
   

如果您运行了两个测试案例的结果： -

% python3 static.py 
Threads:  6  Iterations:  17
0 :  3
1 :  3
2 :  3
3 :  3
4 :  3
5 :  2
Threads:  6  Iterations:  19
0 :  4
1 :  3
2 :  3
3 :  3
4 :  3
5 :  3

如果您想进入循环调度的全部恐怖，则在“ 高性能并行跑步时间 - 设计和实现“

PS”值得注意的是，在上面显示的时间表不能通过设置上面显示的时间表来明确要求 block_size 在静态时间表上，因为该标准不允许在此处分配其余的迭代。 （例如，如果我们尝试将10个迭代分配给4个线程，如果我们设置 block_size（2）我们将获得（4,2,2,2），而如果将其设置为3获取（3,3,3,1），而上述方案给出（3,3,2,2），其不平衡为1，而显式方案各个方案的不平衡为2）。