cuda - 如何判断是否正在使用 GPU 卡？

Question

在 CUDA 中，是否有任何运行时 API 可以判断 GPU 设备是否正在使用？以及用户是来自视频显示还是 GUGPU 应用程序？GPU占用率是多少？

Answer 1

至少在 linux 上，您可以使用该程序nvidia-smi查看当前内存使用情况，以及是否有任何计算进程正在运行。尽管只有选定数量的图形卡（例如特斯拉）支持计算进程的状态。

Answer 2

虽然它没有准确显示正在使用它的内容，但 Windows 上的 MSI Afterburner 会显示系统（NV 或其他）中 GPU 的核心使用情况、内存使用情况、风扇速度和温度。