根据现有 GPU 指针构建 Cupy 数组

Question

我想构建 GPU 上已存在的数组的 Cupy GPU 数组视图，并且我收到以下内容：

1. 指向数组的指针。
2. 我知道数据类型和数据大小。
3. 我也得到了一个推介。

如何构造一个数组视图（最好避免复制）？我尝试了以下操作：

import cupy as cp
import numpy as np 

shape = (w, h, c, b) # example
s = np.product(shape)*4 # this is 1D 

mem = cp.cuda.UnownedMemory(ptr=image_batch_ptr,
                            owner=None,
                            size=s)
memptr = cp.cuda.MemoryPointer(mem, 0)
d = cp.ndarray(shape=shape,
               dtype=np.float32,
               memptr=memptr)

但这似乎没有产生正确的对齐方式。具体来说，我在将音高整合到图片中时遇到了困难——这可能吗？

Answer 1

我找到了解决它的方法。这确实可以通过 cupy 实现，但需要首先使用 copy.cuda.runtime.memcpy2D

1. 我们初始化一个空的cp.empty
2. 我们使用 cupy.cuda.runtime.memcpy2D 将数据从 2D 分配复制到该数组，在那里我们可以设置间距和宽度。我们使用 MemoryKind kind = 3 这是设备到设备的复制。

这似乎是在不移动到主机的情况下创建正确的 cp.ndarray 的最佳方法。