python - TensorFlow：使用 Python 确定 tensorRT 功耗

Question

我正在尝试计算用 Python 编写的 tensorRT 脚本的功耗。使用 CUDA 有nvprof cuda_script，但在我的 Python 脚本中找不到类似的东西。

Python有类似的东西吗？人们如何计算p100/v100的功耗？

Nvidia GPU 的类似情况 -如何分析 Python 脚本的 CPU 使用情况？

Answer 1

事实证明，以线程方式在一个 python 文件中运行这个过程非常复杂。解决方案是将它们与 bash 同时运行，然后让电源脚本检查其他进程是否正在运行。示例代码如下：

def measurePower():

    tmp = os.popen("ps -Af").read()
    process_name = "PROCESSTOBEMEASURED.PY"
    power_measurement = []

    '''One checks if the other process is still running, if yes it measures power again.'''
    while(process_name in tmp[:]):
        measurementPower = os.popen("nvidia-smi -i 0 -q").read()
        tmp = os.popen("ps -Af").read()
        power_measurement.append(nvidiaSmiParser(measurementPower, ["Power Draw"],num))

    return power_measurement