为现有全局内存阵列分配更多内存

Question

是否可以将内存添加到全局内存中先前分配的数组中？

我需要做的是：

//cudamalloc memory for d_A
int n=0;int N=100;
do
{
 Kernel<<< , >>> (d_A,n++);
 //add N memory to d_A
 while(n!=5)}

执行另一个 cudamalloc 是否会删除先前分配的数组的值？就我而言，应保留先前分配的数组的值......

Answer 1

首先，cudaMalloc 的行为类似于 malloc，而不是 realloc。这意味着 cudaMalloc 将在新位置分配全新的设备内存。 cuda API 中没有 realloc 函数。

其次，作为解决方法，您可以再次使用 cudaMalloc 来分配更多内存。请记住在为 d_a 分配新地址之前使用 cudaFree 释放设备指针。以下代码在功能上就是您想要的。

int n=0;int N=100;

//set the initial memory size
size = <something>;

do
{
    //allocate just enough memory
    cudaMalloc((void**) &d_A, size);

    Kernel<<< ... >>> (d_A,n++);   

    //free memory allocated for d_A
    cudaFree(d_A);

    //increase the memory size
    size+=N;

while(n!=5)}

第三，cudaMalloc 可能是一个昂贵的操作，我预计上面的代码会相当慢。我认为你应该考虑为什么要增加数组。您能否为 d_A 分配一次内存，并为最大的用例提供足够的内存？如果您知道以后需要 1,000 字节，则可能没有理由只分配 100 字节！

//calculate the max memory requirement
MAX_SIZE = <something>;

//allocate only once
cudaMalloc((void**) &d_A, MAX_SIZE);

//use for loops when they are appropriate
for(n=0; n<5; n++)
{
    Kernel<<< ... >>> (d_A,n);
}

Answer 2

您的伪代码根本不会“向先前分配的数组添加内存”。增加现有分配大小的标准 C 方法是通过 realloc() 函数，并且在撰写本文时，还没有与 realloc() 等效的 CUDA。

当您执行

cudaMalloc(d_A....)

// something

cudaMalloc(d_A....)

所有操作时，您所做的就是创建一个新的内存分配并将其分配给 d_A。之前分配的内存仍然存在，但是现在你已经丢失了之前内存的指针值，并且没有办法访问它。基于这个和你之前关于几乎同一主题的问题，我是否建议你在尝试 CUDA 之前花一些时间修改 C 中的内存和指针概念，因为除非你对这些基础知识有非常清楚的了解，否则你会发现CUDA 的分布式内存性质非常令人困惑，

Answer 3

我不确定 cuda 给混合添加了什么复杂性（？），但在 c 中你不能将内存添加到已经分配的数组中。

如果要增加 malloc 数组，则需要 malloc 所需大小的新数组，并从现有数组中复制内容。

如果您经常这样做，那么可能值得每次分配比您需要的更多的空间，以避免昂贵的（就处理时间而言）重新分配操作。