如何在Windows上部署CUDA程序？

Question

我有一个链接到 cuda、cublas 和 cudart 的程序。

有没有一种方法可以在不强制用户安装最新的 nvidia 驱动程序的情况下部署它？

当我将提到的 dll 复制到启动路径中时，程序无法启动并抱怨 nvcuda.dll 中不存在程序。即使我也提供这个，该程序的行为也很奇怪。如果安装了最新的驱动程序，一切正常。

相关问题...我如何检查cuda是否受支持（+最新），如果不是这种情况，则回退到我的情况BLAS/LAPACK？如果我提供 dll 程序。行为不端，如果我不提供它们，它甚至可能无法启动。

谢谢！

Answer 1

您是否尝试不链接 CUDA dll，而是动态加载并调用 cudaGetDeviceCount()？像这样：

typedef cudaError_t (*FnGetDeviceCount )    (   int *   count    ) ;
HMODULE hCuda=LoadLibrary("cudart32_40_17.dll");
if( !hCuda ) return ; // ERROR: cannot load dll, DllMain must have failed because cudart only depends on Kernel dll implicitly. Or cannot find dll in curent directory or in the path.
FnGetDeviceCount fnGetDeviceCount=(FnGetDeviceCount)GetProcAddress(hCuda, "cudaGetDeviceCount");
if( !fnGetDeviceCount) return; // ERROR: cudart has no entry point for cudaGetDeviceCount ?!
int count = 0;
if( cudaSuccess != (*fnGetDeviceCount)(&count) ) return ;// ERROR: we don't wanna use CUDA if even device enumeration fails
if( !count ) return; // FALLBACK: CUDA has no devices, don't try to use it, fallback to some other BLAS

这很不方便，因为您不能只链接到 cudart 或其他库，但它可能允许您回退到 BLAS，而不会导致用户看到可怕的启动错误。免责声明：我没有测试甚至编译此代码，如果您使用它并且它有效，请告诉我们:)

此线程 建议您必须从特定版本的 CUDA 工具包（例如 cudart64_40_17.dll）重新分发 dll，这样就可以了。