PyCUDA：C/C++包括？

Question

任何地方都没有真正提到（至少我可以看到）是哪些库函数暴露给内联 CUDA 内核。

具体来说，我正在执行小型/愚蠢的矩阵乘法，这些乘法不值得单独卸载到 GPU，但正在卸载包含此乘法的算法的较大部分。没有人喜欢使用自己的 linalg 函数，因为总有人做得更好。

TLDR 在 PyCUDA 下的内联内核中我可以使用哪些库？

Answer 1

我什么都不知道，但我一直认为拥有它会很有用。

对于我通常处理的问题的大小（有限元方法中出现的小矩阵和张量），我只是编写 C++ 模板来执行操作。模板化函数允许编译器在编译时知道行程计数，并且它可以展开循环并将结果或中间结果保存在寄存器中，这对于内核吞吐量来说往往非常有效。因此，矩阵-矩阵乘积被声明为

template < typename Real, unsigned int l, unsigned int m, unsigned int n >
__device__ __host__ 
void matmul(const Real *a,
            const Real *b,
                  Real *c)
{
    for(int i=0; i<l; i++) {
        for(int j=0; j<n; j++) {
            Real dotprod = Real(0);
               for(int k=0; k<m; k++) {
                   dotprod += a[idx2c(i,k,l)] * b[idx2c(k,j,m)];
                }
                c[idx2c(i,j,l)] = dotprod;
           }
     }
}

对于我的内核中出现的那种大小（2x2、3x3、4x4、8x8、9x9），执行上述操作并让编译解决问题似乎与其他任何方法一样好我尝试过的方法。因为在线程级别 CUDA 实际上是标量，所以没有任何矢量基元或类似的东西可用于加速此类小型操作。