CUBLAS - 矩阵元素求幂可能吗？

Question

我正在使用 CUBLAS（Cuda Blas 库）进行矩阵运算。

是否可以使用 CUBLAS 来实现矩阵项的幂/均方根？

我的意思是，拥有 2x2 矩阵

1 4
9 16

我想要的是一个提升到给定值（例如 2）

1 16
81 256

并计算均方根（例如）的

1 2
3 4

函数，这可以用 CUBLAS 实现吗？我找不到适合此目标的函数，但我会首先在这里询问以开始编写我自己的内核。

Answer 1

因此，这很可能是您必须自己实现的事情，因为库不会为您做这件事。 （可能有某种方法可以用 BLAS 3 级例程来实现其中一些 - 当然是矩阵元素的平方 - 但它会涉及昂贵且不必要的矩阵向量乘法。而且我仍然不知道你是如何做到的d 进行平方根运算）。原因是这些运算并不是真正的线性代数过程；而是线性代数过程。对每个矩阵元素求平方根并不真正对应于任何基本的线性代数运算。

好消息是这些元素操作在 CUDA 中实现起来非常简单。同样，有很多调整选项可以使用以获得最佳性能，但可以相当容易地开始。

与矩阵加法运算一样，您将在这里将 NxM 矩阵视为 (N*M) 长度的向量；矩阵的结构对于这些元素运算并不重要。因此，您将传递一个指向矩阵第一个元素的指针，并将其视为 N*M 数字的单个列表。 （我假设您在这里使用 float，就像您之前讨论 SGEMM 和 SAXPY 一样。）

内核，实现该操作的实际 CUDA 代码非常简单。目前，每个线程将计算一个数组元素的平方（或平方根）。 （您可以测试这对于性能是否是最佳的）。所以内核看起来像下面这样。我假设你正在做类似 B_ij = (A_ij)^2; 的事情如果您想就地执行操作，例如 A_ij = (A_ij)^2，您也可以这样做：

__global__ void squareElements(float *a, float *b, int N) {
    /* which element does this compute? */
    int tid = blockDim.x * blockIdx.x + threadIdx.x;

    /* if valid, squre the array element */
    if (tid < N) 
            b[tid] = (a[tid]*a[tid]);
}

__global__ void sqrtElements(float *a, float *b, int N) {
    /* which element does this compute? */
    int tid = blockDim.x * blockIdx.x + threadIdx.x;

    /* if valid, sqrt the array element */
    if (tid < N) 
            b[tid] = sqrt(a[tid]);   /* or sqrtf() */
}

请注意，如果您可以接受稍微增加的误差，则“sqrtf()”函数的最大误差为3 ulp（最后一位的单位）明显更快。

如何调用这些内核将取决于您执行操作的顺序。如果您已经对这些矩阵进行了一些 CUBLAS 调用，您将希望在 GPU 内存中已有的数组上使用它们。