nvidia GPU 上的内核真的有超时吗？

Question

寻找为什么我的内核产生奇怪的错误消息或仅“0”结果的答案我发现了这个 answer on SO 提到在 nvidia gpus 上运行的内核有 5 秒的超时？我在谷歌上搜索了超时，但找不到确认来源或更多信息。

你对此了解多少？

超时是否会导致运行时间较长的内核出现奇怪的行为？

谢谢！

Answer 1

进一步谷歌搜索在 CUDA_Toolkit_Release_Notes_Linux.txt（已知问题）：

# 在连接显示器的 GPU 上，单个 GPU 程序启动的运行时间限制为少于 5 秒。超过此时间限制通常会导致通过 CUDA 驱动程序或 CUDA 运行时报告启动失败。未连接显示器的 GPU 不受 5 秒运行时间限制。因此，建议 CUDA 在未连接到显示器且未在其上扩展 Windows 桌面的 GPU 上运行。在这种情况下，系统必须至少包含一个 NVIDIA GPU 作为主图形适配器。

[更新] 这个功能的官方名称似乎是“看门狗”。

Answer 2

如果您使用的是 Windows Vista 或更高版本，WDDM 驱动程序堆栈将在大约两秒后自动重置设备，除非您 调整您的 TDR 超时。 （Windows 无法区分运行较长内核的 GPU 和锁定的 GPU 之间的区别。）在 TCC 模式下运行的 Tesla 品牌卡不受正常显示适配器的限制，因此可以运行更长的内核。