parallel-processing - GPU MHZ 利用率

Question

我正在为 GPU 卡开发一个监控代理，它能够使用 CUDA 和 NVML 库提供实时遥测。

我想了解更多关于 GPU 核心操作与 Intel/AMD CPU 核心如何工作的信息。

可用于 CPU 的一种公式是（cpumhz 或工作负载平均峰值 CPU 利用率 (MHz)），如下所示：

((CPUSPEED * CORES) /100) * CPULOAD = Workload average peak CPU utilization

更多详细信息在这里 https://vikernel.wordpress.com/tag/vmware-formulas/

那么同样的公式可以应用于 GPU 是否正确。例外情况是 CUDA 核心/着色器代替“核心”，或者我可以将当​​前时钟速度乘以实际 gpu 时钟使用情况，因为 GPU 有一个核心时钟用于其 1000 个核心/着色器。

例如：

((GRAPHICS_MHZ * CUDA_CORES) /100) * GPU_LOAD = GPU MHZ utilization

Answer 1

查看gpustat，它是nvidia-smi.

和GPUtil，它可以获取 GPU 的最大当前相对负载

Answer 2

我想我是根据 GPU 卡的工作原理找到答案的。由于每个内核并行运行，因此它们比我读过的 CPU 内核更有效地工作。

有了 CPU 核心，你可以使用上面的公式，但是如果你想查看 gpu 卡上使用的 mhz，你可以简单地使用：

(GRAPHICS_MHZ * /100) * GPU_LOAD = GPU MHZ utilization

好消息是您返回的 GPU_LOAD 是从 GPU 卡提供的计算，而不是您从 CPU 卡获得的计算。如果有人有不同的意见，我很想听听。