0

编辑 3: 我需要每个线程在全局内存中写入和读取一个私有位置。下面我发布了一个显示我的问题的工作代码。在下文中,我将列出所涉及的主要变量和结构。

变量

  • srcArr_h(host) --> srcArr_d(device) : [0, ] 范围内的随机浮点数组,COLORLEVELS尺寸为ARRDIM
  • auxD(device) : 维度数组ARRDIM*ARRDIM将最终结果保存在设备中
  • auxH(host) : 维度数组ARRDIM*ARRDIM将最终结果保存在主机中
  • c_glob_d(device) : 为每个线程保留一个私有COLORLEVELS浮点位置的数组,大小由num_threads*给出COLORLEVELS
  • idx(device) : 当前线程的标识号

我的问题:在内核中,我更新c_glob[idx]每个值icic∈ [0, COLORLEVELS]),即c_glob[idx][ic]。我 c_glob[idx][COLORLEVELS]用来计算g0存储在auxD. 我的问题是我的最终结果是错误的。复制到 auxH 的结果表明,我得到的数字至少比预期的大一个数量级,甚至奇怪的数字表明我的操作可能会溢出。
帮助:我做错了什么?如何让每个线程写入和读取全局内存中的每个私有位置?现在我正在使用ARRDIM= 512 进行调试,但我的目标是让它在ARRDIM~ 10^4 范围内工作,从而创建一个c_glob10^4*10^4 线程的数组)。我想我会遇到每次运行允许的线程总数的问题。所以我想知道你是否可以为我的问题提出任何其他解决方案。
谢谢你。

#include <string>
#include <stdint.h>
#include <iostream>
#include <stdio.h>
#include "cuPrintf.cu"
using namespace std;

#define ARRDIM 512
#define COLORLEVELS 4

__global__ void gpuKernel
(
    float *sa, float *aux,
    size_t memPitchAux, int w,
    float *c_glob
)
{
    float sc_loc[COLORLEVELS];

    float g0=0.0f;

    int tidx = blockIdx.x * blockDim.x + threadIdx.x; 
    int tidy = blockIdx.y * blockDim.y + threadIdx.y; 

    int idx  = tidy * memPitchAux/4 + tidx;

    for(int ic=0; ic<COLORLEVELS; ic++)
    {
        sc_loc[ic] = ((float)(ic*ic));
    }

    for(int is=0; is<COLORLEVELS; is++)
    {
        int ic = fabs(sa[tidy*w +tidx]);
        c_glob[tidy * COLORLEVELS + tidx + ic] += 1.0f;
    }

    for(int ic=0; ic<COLORLEVELS; ic++)
    {
        g0 += c_glob[tidy * COLORLEVELS + tidx + ic]*sc_loc[ic];
    }

    aux[idx] = g0;
}

int main(int argc, char* argv[])
{
    /*
     * array src host and device
     */
    int heightSrc = ARRDIM;
    int widthSrc = ARRDIM;
    cudaSetDevice(0);

    float *srcArr_h, *srcArr_d;
    size_t nBytesSrcArr = sizeof(float)*heightSrc * widthSrc;

    srcArr_h = (float *)malloc(nBytesSrcArr); // Allocate array on host
    cudaMalloc((void **) &srcArr_d, nBytesSrcArr); // Allocate array on device
    cudaMemset((void*)srcArr_d,0,nBytesSrcArr); // set to zero

    int totArrElm = heightSrc*widthSrc;

    for(int ic=0; ic<totArrElm; ic++)
    {
        srcArr_h[ic] = (float)(rand() % COLORLEVELS);
    }

    cudaMemcpy( srcArr_d, srcArr_h,nBytesSrcArr,cudaMemcpyHostToDevice);

    /*
     * auxiliary buffer auxD to save final results
     */
    float *auxD;
    size_t auxDPitch;
    cudaMallocPitch((void**)&auxD,&auxDPitch,widthSrc*sizeof(float),heightSrc);
    cudaMemset2D(auxD, auxDPitch, 0, widthSrc*sizeof(float), heightSrc);

    /*
     * auxiliary buffer auxH allocation + initialization on host
     */
    size_t auxHPitch;
    auxHPitch = widthSrc*sizeof(float);
    float *auxH = (float *) malloc(heightSrc*auxHPitch);

    /*
     * kernel launch specs
     */
    int thpb_x = 16;
    int thpb_y = 16;

    int blpg_x = (int) widthSrc/thpb_x;
    int blpg_y = (int) heightSrc/thpb_y;
    int num_threads = blpg_x * thpb_x + blpg_y * thpb_y;

    /* 
     * c_glob: array that reserves a private location of COLORLEVELS floats for each thread
     */
    int cglob_w = COLORLEVELS;
    int cglob_h = num_threads;

    float *c_glob_d;
    size_t c_globDPitch;
    cudaMallocPitch((void**)&c_glob_d,&c_globDPitch,cglob_w*sizeof(float),cglob_h);
    cudaMemset2D(c_glob_d, c_globDPitch, 0, cglob_w*sizeof(float), cglob_h);

    /*
    * kernel launch
    */
    dim3 dimBlock(thpb_x,thpb_y, 1);
    dim3 dimGrid(blpg_x,blpg_y,1);

    gpuKernel<<<dimGrid,dimBlock>>>(srcArr_d,auxD, auxDPitch, widthSrc, c_glob_d);

    cudaThreadSynchronize();

    cudaMemcpy2D(auxH,auxHPitch, 
                 auxD,auxDPitch,  
                 auxHPitch, heightSrc,
                 cudaMemcpyDeviceToHost);
    cudaThreadSynchronize();

    float min = auxH[0];
    float max = auxH[0];
    float f;
    string str;

    for(int i=0; i<widthSrc*heightSrc; i++)
    {

        if(min > auxH[i])
            min = auxH[i];
        if(max < auxH[i])
            max = auxH[i];
    }
    cudaFree(srcArr_d);
    cudaFree(auxD);
    cudaFree(c_glob_d);

}
4

1 回答 1

1

您决定既不显示整个代码也不显示其缩小的大小来重现您的问题。因此,无法对以下可能的解决方案进行测试和验证。

我认为您已经发现了问题的根源:多个线程正在尝试并行写入相同的内存位置。这是导致竞争条件的情况。例如,请参阅演示文稿“CUDA C:竞争条件、原子、锁、互斥锁和扭曲”的第四张幻灯片。

竞争条件有一个蛮力解决方案:原子函数。它们在 CUDA C 编程指南的第 B.12 节中进行了描述。因此,您可以尝试通过更改线路来解决您的问题

c[ic] += 1.0f;

atomicAdd(&c[ic],1);

您将为此付出代价:原子操作序列化代码以避免竞争条件。

我已经提到原子函数是解决问题的强力解决方案,因为通过适当地重新考虑实现,您可以找到避免它们的方法。但由于您提供的细节很少,目前还不能这么说。

于 2013-11-16T21:55:20.547 回答