cuda - 如何测量 NVIDIA CUDA 中的内核时间？

Question

我想测量GPU的时间内核，如何在NVIDIA CUDA中测量它？例如

__global__ void kernelSample()
{
  some code here
  get start time 
  some code here 
  get stop time 
  some code here
}

Answer 1

你可以这样做：

__global__ void kernelSample(int *runtime)
{
  // ....
  clock_t start_time = clock(); 
  //some code here 
  clock_t stop_time = clock();
  // ....

  runtime[tidx] = (int)(stop_time - start_time);
}

这给出了两个调用之间的时钟周期数。不过要小心一点，计时器会在几秒钟后溢出，所以你应该确保连续调用之间的代码持续时间很短。您还应该知道编译器和汇编器确实会执行指令重新排序，因此您可能需要检查时钟调用是否最终不会在 SASS 输出中彼此相邻（用于cudaobjdump检查）。

Answer 2

试试这个，它以毫秒为单位测量 2 个事件之间的时间。

  cudaEvent_t start, stop;
  float elapsedTime;

  cudaEventCreate(&start);
  cudaEventRecord(start,0);

 //Do kernel activity here

 cudaEventCreate(&stop);
 cudaEventRecord(stop,0);
 cudaEventSynchronize(stop);

 cudaEventElapsedTime(&elapsedTime, start,stop);
 printf("Elapsed time : %f ms\n" ,elapsedTime);