如何评估 CUDA GPU 的相对性能？

Question

我怎样才能估计我不拥有的卡的cuda性能，即。新卡？

例如，我发现了一个不完整的 Cuda 示例，作者写道，他在 GF 8600 GT 上花费了 0.7 秒。但在我的 Quadro 上需要 1.7 秒。

我的问题是：我用来填补空白的代码是否有问题，或者 GF 8600 的速度真的是两倍吗？

内核受内存限制，但我的卡具有更高的内存带宽。我不知道从中可以得出什么结论。

Name               Quadro FX 580     GeForce 8600 GT 
CUDA Cores                    32                  32
Core clock (MHz)             450                 540   
Memory clock (MHz)           400                 700
Memory BW (GB/s)              25.6                22.4  
Shader Clock (MHz)          ????                1180  

Answer 1

只是想为您提供一些可能是错误来源的指示。首先，使用 cudaEvents 对代码进行计时，而不是使用 cuda profiler，因为 cudaEvents 更准确。其次，请检查作者测量的是什么；他只是在谈论计算时间，还是也考虑了与 GPU 之间传输数据的时间。你们测量的是同一时间吗？

其次，cuda架构变化相当快。例如，对于cc 1.x的卡，建议我们使用共享内存以获得更好的性能；然而，对于具有 cc 2.x 的卡，每个多处理器都有一个 L1 缓存，这使得全局内存访问速度相当快。因此，您可能还想比较这两种卡的架构及其计算能力。