四核和虚拟机上的并行编程？

Question

我正在考虑慢慢学习并行编程。我见过人们使用安装了 OpenMPI 的集群来学习这些东西。我无法访问集群，但有一台四核机器。我能在这里体验到任何好处吗？另外，如果我在虚拟机中运行 linux，那么在虚拟机中使用 OpenMPI 是否有意义？

Answer 1

如果您的目标是学习，则根本不需要集群。您的四核（或任何双核甚至单核）计算机就足够了。要点是学习如何“并行”思考以及如何设计应用程序。

一些重要的要点是：

• 利用不同的并行范例，例如分而治之、主从工作、SPMD……取决于您想要执行的数据和任务依赖性。
• 选择不同的数据划分粒度来检查计算/通信比率（在消息传递的情况下），或者检查由于内存区域互斥而导致的串行执行量。

拥有四核后，您可以测量方法加速（由于并行化而获得的性能增益），这通常由非并行执行时间与并行执行时间之间的除法给出。
越接近 4（四个核心意味着执行时间的 1/4），您的并行化策略就越好（一旦您可以均匀地分配工作和数据）。