cuda - CUDA 变量是什么意思？

Question

CUDA 变量是什么意思？

Maximum number of threads per multiprocessor:  2048
Maximum number of threads per block:           1024
Maximum sizes of each dimension of a block:    1024 x 1024 x 64
Maximum sizes of each dimension of a grid:     2147483647 x 65535 x 65535

例如，Maximum sizes of each dimension of a grid,这是否意味着有 2147483647 个网格。每个网格包含 65535 个块？

Answer 1

不，这些是您可以使用的最大硬件限制。你有块 1024x1024x64 的最大暗淡，但每个块的线程限制是 1024，所以你可以使用块尺寸 1024x1x1 或 32x32x1 等。你不能有更多，但当然，你可以使用更少。

通常，如何将网格设置为块尺寸（在限制范围内）取决于您自己，这取决于您的需要。最基本的层次结构是，你有一个块网格。每个块都包含线程。因此，如果您有 2x2x2 的网格尺寸和 16x1x1 的块尺寸，则有 8 个块，每个块有 16 个线程，因此有 128 个线程在运行。

CUDA 有一个很好的文档，所以我建议你从那里开始。