cuda - 在两个 GPU 上同时运行两个循环次数相同的 for 循环，涉及 GPU 和 CPU 任务

Question

我的代码中有两个for循环运行相同数量的循环周期。这两个循环是独立的（每个循环处理不同的输入数据）。在一个循环中，有多个 CPU 功能和多个内核未同时运行。

我可以在不同的 GPU 上运行这些迭代吗？

Answer 1

您可以在两个不同的 GPU 上分别运行相关内核。

您必须注意两个 GPU 的部分结果上的 CPU 处理同步。由于存在顺序部分，您可能不会体验到使用GPU2时可能的最大加速因子。2

从 CUDA 4.0 开始，您可以使用cudaSetDevice()设置与给定设备对应的当前上下文，而无需创建流来启用多 GPU 处理。