cuda - nVidia Titan V 是否支持 GPUDirect？

Question

我想知道是否有人可以帮助我确定 nVidia 的新 Titan V 是否支持 GPUDirect。据我所知，它似乎仅限于 Tesla 和 Quadro 卡。

感谢您抽出时间来阅读。

Answer 1

GPUDirect Peer-to-Peer (P2P) 在任何 2 个“相似”的 CUDA GPU（计算能力为 2.0 或更高）之间受支持，如果系统拓扑支持它，并且受其他要求和限制的约束。简而言之，系统拓扑要求是参与的两个 GPU 必须在同一个 PCIE 根复合体下枚举。如果有疑问，“like”表示相同。可能支持其他组合（例如，具有相同计算能力的 2 个 GPU），但未指定或宣传为支持。 如果有疑问，请尝试一下。最后，这些东西必须能够被 GPU 驱动程序“发现”。如果 GPU 驱动程序无法确定这些事实，和/或系统不是驱动程序中维护的白名单的一部分，则将无法支持 P2P。

请注意，一般来说，P2P 支持可能因 GPU 或 GPU 系列而异。在一种 GPU 类型或 GPU 系列上运行 P2P 的能力并不一定表明它可以在另一种 GPU 类型或系列上运行，即使在相同的系统/设置中也是如此。GPU P2P 支持的最终决定因素是提供的工具，这些工具可以通过cudaDeviceCanAccessPeer. 因此，此处的“支持”语句不应被解释为指代特定的 GPU 类型。P2P 支持也会因系统和其他因素而异。此处的任何陈述均不保证任何特定设置中的任何特定 GPU 都支持 P2P。

GPUDirect RDMA 仅在 Tesla 和可能的某些 Quadro GPU 上受支持。

因此，如果您的系统有 2 个 Titan V GPU 插入连接到同一个根联合体的 PCIE 插槽（通常，除了在 Skylake CPU 中，说“连接到同一个 CPU 插槽”就足够了），并且该系统（即核心逻辑）被 GPU 驱动程序识别，我希望 P2P 在这两个 GPU 之间工作。

在任何情况下，我都不希望 GPUDirect RDMA 能在 Titan V 上工作。

YMMV。如果有疑问，请在做出任何重大购买决定之前尝试一下。