使用cudaMalloc分配矩阵

Question

我正在使用 cudaMalloc 和 cudaMemcpy 分配一个矩阵并将向量数组复制到其中，如下所示：

float **pa;    
cudaMalloc((void***)&pa,  N*sizeof(float*)); //this seems to be ok
for(i=0; i<N; i++) {
    cudaMalloc((void**) &(pa[i]), N*sizeof(float)); //this gives seg fault
    cudaMemcpy (pa[i], A[i], N*sizeof(float), cudaMemcpyHostToDevice); // also i am not sure about this
}

我的指令有什么问题吗？ 预先

感谢A[i] 是一个向量

---

现在我试图将一个矩阵从设备复制到主机的矩阵：

假设我在设备中有 **pc，并且 **pgpu 在主机中：

cudaMemcpy (pgpu, pc, N*sizeof(float*), cudaMemcpyDeviceToHost);
for (i=0; i<N; i++)
    cudaMemcpy(pgpu[i], pc[i], N*sizeof(float), cudaMemcpyDeviceToHost);

= 是错误的.. ..

Answer 1

pa 位于设备内存中，因此 &(pa[i]) 不会执行您期望的操作。这会起作用，

float **pa;
float **pah = (float **)malloc(pah, N * sizeof(float *));    
cudaMalloc((void***)&pa,  N*sizeof(float*));
for(i=0; i<N; i++) {
    cudaMalloc((void**) &(pah[i]), N*sizeof(float));
    cudaMemcpy (pah[i], A[i], N*sizeof(float), cudaMemcpyHostToDevice);
}
cudaMemcpy (pa, pah, N*sizeof(float *), cudaMemcpyHostToDevice);

即。在主机内存中构建指针数组，然后将其复制到设备。 我不确定您希望从 A 中读取什么，但我怀疑内部 cudaMemcpy 可能没有按照您所写的方式执行操作。

预先警告，从性能角度来看，指针数组在 GPU 上并不是一个好主意。

Answer 2

这段代码的最终目标是什么？正如上面所暗示的，将 pa 展平为一维数组以便在 GPU 上使用可能符合您的最佳利益。类似这样的：

float *pa;
cudaMalloc((void**)&pa, N*N*sizeof(float));

不幸的是，你必须调整 A[i] 才能以这种方式进行内存复制。