0

这是我的 CUDA 代码：

#include<stdio.h>
#include<assert.h>
void verify(float * A, float * B, int size);

__global__ void CopyData(float *d_array, float* d_dest_array, size_t pitch, int cols, int rows)
{
  for(int i=0; i<rows; i++){
        float *rowData = (float*)(((char*)d_array) + (i*pitch));
        for(int j=0; j<cols; j++){
            d_dest_array[i*cols+j] = *(rowData+j);
        }
    }
}

int main(int argc, char **argv)
{
    int row, col, i, j; 
    float time1, time2;
    float *d_array;                 // dev arr which mem will be alloc to
    float *d_dest_array;        // dev arr that will be a copy
    size_t pitch;                       // ensures correct data struc alignm    
    if(argc != 3)
  {
        printf("Usage: %s [row] [col]\n", argv[0]);
        return 1;
  }

    row = atoi(argv[1]);
    col = atoi(argv[2]);
    float *h1_array = new float[col*row];
    float *h2_array = new float[col*row];
    float *h_ori_array = new float[col*row];
    for (i = 0; i<row; i++){
        for(j = 0; j<col; j++){
            h_ori_array[i*col+j] = i*col + j;
        }
    }
    cudaEvent_t start, stop;

    cudaMallocPitch(&d_array, &pitch, col*sizeof(float), row);
    cudaMalloc(&d_dest_array, col*row*sizeof(float));
    cudaMemcpy2D(d_array, pitch, h_ori_array, col*sizeof(float), col*sizeof(float), row, cudaMemcpyHostToDevice);
    cudaEventCreate(&start);
    cudaEventCreate(&stop);
    cudaEventRecord(start, 0);
    //CopyData<<<100, 512>>>(d_array, d_dest_array, pitch, col, row);
    for (i = 0; i<row; i++){
        for(j = 0; j<col; j++){
            h1_array[i*col+j] = h_ori_array[i*col+j];
        }
    }
    cudaEventRecord(stop, 0);
    cudaEventSynchronize(stop);
    cudaEventElapsedTime(&time1, start, stop);

    cudaEventCreate(&start);
    cudaEventCreate(&stop);
    cudaEventRecord(start, 0);
    CopyData<<<row*col/512, 512>>>(d_array, d_dest_array, pitch, col, row);
    cudaEventRecord(stop, 0);
    cudaEventSynchronize(stop);
    cudaEventElapsedTime(&time2, start, stop);

    cudaMemcpy2D(h2_array, pitch, d_dest_array, col*sizeof(float), col*sizeof(float), row, cudaMemcpyDeviceToHost);

    verify(h1_array, h2_array, row*col);

    free(h1_array); free(h2_array); free(h_ori_array);
  cudaFree(d_array); cudaFree(d_dest_array);
    printf("Exec time in ser = %f, par = %f ms with pitch %d", time1, time2, (int)pitch); 

    return 0;
}

void verify(float * A, float * B, int size)
{
    for (int i = 0; i < size; i++)
    {
        assert(A[i]==B[i]);
    }
     printf("Correct!");
}

它只是制作矩阵的副本。串行和并行版本都被编写，以便我可以比较它们。

如果数组大小为 64，则给出错误答案。对于 256 及以上，它给出正确答案。但是，对于 512x512 矩阵来说，它需要的时间太长了，需要 4 秒。

我对 cudaMemcpy2D 不满意。有人可以指出我做错了什么吗？任何有关 CUDA 编码实践的建议也将不胜感激。 另外，在调用内核时，如何确定块和网格尺寸？

编辑 1： 我使用的 CopyData 函数不使用并行性。我愚蠢地从页面底部的 VIHARRI 的答案中复制了它。

那里选择的答案没有指定数据是如何从主机复制到设备的。有人可以展示如何使用 cudaMallocPitch 和 cudaMemcpy2D 函数来完成吗？我正在寻找在内核中建立索引的正确方法以及将二维数组从主机复制到设备的正确方法。

4

1 回答 1

1

您只运行一个 CUDA 线程。（实际上，仔细检查一下，您在多个线程中运行相同的代码，但结果是一样的：您并没有真正利用 GPU 硬件）。

理想情况下，您需要运行数百或数千个并发线程才能获得最佳性能。一种方法是为每个输出元素设置一个线程，然后在每个线程中使用网格、块和线程 ID 来确定要处理的输出元素。查看 CUDA SDK 中的示例以了解使用 CUDA 进行并行处理的一般模式。

于 2013-05-24T09:42:47.987 回答