2

当他们分配网格大小时，我在 cuda 示例中看到了一个常见的习惯。下面是一个例子：

int 
main(){

    ...
    int numElements = 50000;
    int threadsPerBlock = 1024;
    int blocksPerGrid =(numElements + threadsPerBlock - 1) / threadsPerBlock;

    vectorAdd<<<blocksPerGrid, threadsPerBlock>>>(d_A, d_B, d_C, numElements);
    ...
}

__global__ void
vectorAdd(const float *A, const float *B, float *C, int numElements)
{
    int i = blockDim.x * blockIdx.x + threadIdx.x;

    if (i < numElements)
    {
        C[i] = A[i] + B[i];
    }
}

我很好奇的是blocksPerGrid的初始化。我不明白为什么会这样

int blocksPerGrid = (numElements + threadsPerBlock - 1) / threadsPerBlock;

而不是直截了当

int blocksPerGrid = numElements / threadsPerblock;

这似乎是一个很普遍的习惯。我在各种项目中看到。他们都是这样做的。我是 cuda 的新手。欢迎对此背后的任何解释或知识。

4

1 回答 1

8

计算是按照您看到的方式完成的，以考虑numElements不是 . 的整数倍的情况threadsPerblock。

例如，使用threadsPerblock = 256和numElements = 500

(numElements + threadsPerBlock - 1) / threadsPerBlock = (500 + 255) / 256 = 2

然而

numElements / threadsPerblock = 500 / 256 = 1

在第一种情况下，运行了 512 个线程，覆盖了输入数据中的 500 个元素，但在第二种情况下，只运行了 256 个线程，剩下 244 个输入项未处理。

还要注意内核中的这种“守卫”代码：

int i = blockDim.x * blockIdx.x + threadIdx.x;

if (i < numElements)
{
    ... Access input here
}

对于防止任何额外线程执行越界内存操作至关重要。

于 2013-06-25T17:09:11.390 回答