通过CUDA线程复制全局内存

Question

我需要通过 CUDA 线程（而不是从主机）将全局内存中的一个数组复制到全局内存中的另一个数组。

我的代码如下：

__global__ void copy_kernel(int *g_data1, int *g_data2, int n)
{
  int idx = blockIdx.x * blockDim.x + threadIdx.x;
  int start, end;
  start = some_func(idx);
  end = another_func(idx);
  unsigned int i;
  for (i = start; i < end; i++) {
      g_data2[i] = g_data1[idx];
  }
}

效率非常低，因为对于某些idx，[start, end]区域非常大，这使得该线程发出太多复制命令。有没有什么办法可以高效实施呢？

谢谢你，

郑

Answer 1

按照你写的方式，我猜测每个线程都在尝试写入整个“开始”到“结束”块。这确实非常效率低下。

你需要做这样的事情。

___shared___ unsigned sm_start[BLOCK_SIZE];
___shared___ unsigned sm_end[BLOCK_SIZE];
sm_start[threadIdx.x] = start;
sm_end[threadIdx.y] = end;
__syncthreads();
for (int n = 0; n < blockdDim.x; n++) {
g_data2 += sm_start[n];
unsigned lim = sm_end[n] - sm_start[n];
  for (int i = threadIdx.x; i < lim; i += blockDim.x) {
      g_data2[i] = g_data1[idx];
  }
}

Answer 2

尝试使用这个：

CUresult cuMemcpyDtoD(
    CUdeviceptr dst,
    CUdeviceptr src,
    unsigned int bytes   
)   

更新：

你是对的：http://forums.nvidia.com/ index.php?showtopic=88745

没有有效的方法可以正确执行此操作，因为 CUDA 的设计希望您仅使用内核中的少量数据。