cuda - 可以在 CUDA 上启动的最大线程数

Question

当我运行 deviceQuery SDK 示例时，它显示以下统计信息：

每个块的最大线程数：1024 块
的每个维度的最大大小：1024 x 1024 x 64
网格的每个维度的最大大小：65535 x 65535 x 65535

那么这是否意味着我最多可以启动 1024*65535*65535*65535 的线程总数？

Answer 1

正如 talonmies 指出的那样，这是理论上的最大值。但是，您可以启动的线程数也取决于每个线程使用的资源量。这是因为特定块在设备的一个流式多处理器中执行。流式多处理器具有有限的资源（尤其是寄存器和本地内存），并且可以将每个块的线程数限制为小于问题中列出的理论最大值。因此，您还必须注意每个线程使用的资源量。如果每个线程使用的资源量很高，您可能无法达到该值。