编写 CUDA 内核来替换等效的仅 CPU 功能

Question

我有一些实现平滑粒子流体动力学的 .cpp 文件，这是一种用于模拟流体流动的粒子方法。

这些粒子技术中最耗时的部分之一是在模拟的每个时间步查找每个粒子的最近邻居（K 最近邻居或范围搜索）。

现在我只想使用 GPU 和 CUDA 加速邻居搜索例程，取代我当前基于 CPU 的邻居搜索例程。只有邻居搜索将在 GPU 上运行，而其余模拟则在 CPU 上进行。

我的问题是，我应该如何编译整个代码？更具体地说，假设我在文件 nsearch.cu 中编写邻居搜索内核函数。

那么我应该重命名所有以前的.cpp文件为.cu文件并使用重新编译整个集（以及nsearch.cu） nvcc？至少对于简单的例子来说，nvcc 无法编译扩展名为 .cpp 的 CUDA 代码，即 nvcc foo.cu 可以编译，但 nvcc hello.cpp 没有。

简而言之，这个 CUDA 插件的结构应该是什么？我应该如何编译它？

我在工作中使用 Ubuntu Linux 10.10、CUDA 4.0、NVIDIA GTX 570（计算能力 2.0）和 gcc 编译器

Answer 1

您需要编写 nsearch.cu 文件并使用“nvcc -c -o nsearch.o”进行编译，然后将 nsearch.o 与主应用程序链接。必须有一个 nsearch.h 文件来导出实际内核的包装器。

in nsearch.h : 
void kern();

in nsearch.cu:
void __global__ kern__() {
}
void kern() {
  kern__<<<...>>>();
}

Answer 2

这是对你的问题的更广泛的回答，因为我经历了与你非常相似的思维过程——将我的流体动力学代码移至 GPU，同时将其他所有内容保留在 CPU 上。虽然我认为这是您应该开始的地方，但我也认为您应该开始计划将所有其他代码也转移到 GPU 上。我发现，虽然 GPU 非常擅长进行模拟所需的矩阵分解，但 GPU 和 CPU 内存之间的内存边界非常慢，以至于 80-90% 的 GPU 模拟时间都花在了 cudaMemcpyDeviceToHost/ 上。 cudaMemcpyHostToDevice。