CUDA：标识符“cudaMemGetInfo”未定义

Question

为了估计程序在一次内核启动中可以处理多少数据，我尝试使用 cudaMemGetInfo() 获取一些内存信息。然而，编译器告诉我：
错误：标识符“cudaMemGetInfo”未定义
其他函数如 cudaGetDeviceProperties(); 工作正常。我必须安装特定的 CUDA 版本吗？ 库描述不包含信息关于版本等等。

编辑：最小的可能的代码。 cudaSetDevice() 不会生成编译器错误，而 cudaMemGetInfo() 会生成

#include <cuda.h>
#include <cuda_runtime_api.h>

int main(){
   unsigned int f, t;
   cudaSetDevice(0);
   cudaMemGetInfo(&f, &t);
   return 0;
}

编辑 2：
我在 Linux 上使用“Cuda 编译工具，版本 2.0，V0.2.1221”(nvcc)。
当我尝试使用 cudaDriverGetVersion() 安装 cuda 驱动程序版本时，发生了相同的错误（当我使用驱动程序函数 cuDriverGetVersion() 时也是如此）。
看来系统不会让我知道任何关于它自己的细节……

Answer 1

对于您使用的非常旧的 CUDA 版本，cudaMemGetInfo 不是运行时 API 的一部分。它在驱动程序 cuMemGetInfo 中有一个对应项，可以使用它来代替。请注意，使用此调用的驱动程序 API 版本需要首先建立上下文。这应该适用于 CUDA 2.x：

// CUDA 2.x version
#include <cstdio>
#include <cuda.h>
#include <cuda_runtime_api.h>

int main(){
    unsigned int f, t;
    cudaSetDevice(0);
    cudaFree(0); // This will establish a context on the device
    cuMemGetInfo(&f, &t);
    fprintf(stdout,"%d %d\n",f/1024,t/1024);
    return 0;
}

编辑：此答案适用于 CUDA 3.0 及更高版本：

您的问题不是 cudaMemGetInfo，而是您提供的参数。我预测这：

// CUDA 3.0 or later version
#include <cuda.h>
#include <cuda_runtime_api.h>

int main(){
    size_t f, t;
    cudaSetDevice(0);
    cudaMemGetInfo(&f, &t);
    return 0;
}

将在您的示例失败的地方起作用。请注意，nvcc 使用主机 C++ 编译器来编译主机代码，并且它不会找到参数不正确的 API 函数的实例。请注意， cudaMemGetInfo 的原型是，

cudaError_t cudaMemGetInfo(size_t * free, size_t * total)       

并且参数应该是 size_t，这与许多平台上的unsigned int。

Answer 2

修复此错误：

错误：“unsigned int *”类型的参数与“size_t *”类型的参数不兼容。

我从 cuda 3.2 的 nvidia 技术报告那：
接受或返回内存大小的驱动程序 API 函数（例如 cuMemAlloc() 和 cuMemGetInfo()）现在使用 size_t 而不是 unsigned int 来实现此目的。

因此您必须更改 *.cu 代码，如下所示：

错误的代码：
unsigned int 空闲，总计；
cuMemGetInfo(&免费,&总计);

正确代码：
size_t 空闲，总计；
cuMemGetInfo(&免费,&总计);