c++ - 部分卡片上的 cuda 应用程序

Question

我有一台 Nvidia Tesla s2050；带有 nvidia quadro 卡的主机。带有 CUDA 3.1 的 CentOS 5.5 当我运行 cuda 应用程序时，我想使用 4 Tesla c-2050，但不包括主机上的 quadro，以免在将工作平均分成 5 时落后于整体性能。有什么方法可以实现吗？

Answer 1

我假设您有四个进程和四个设备，尽管您的问题表明您有五个进程和四个设备，这意味着手动调度可能更可取（特斯拉设备处于“共享”模式）。

最简单的方法是使用 nvidia-smi 来指定 Quadro 设备“禁止计算”。您还可以指定 Teslas 是“计算专有的”，这意味着在任何给定时间只有一个上下文可以附加到其中的每一个。

运行man nvidia-smi以获取更多信息。

Answer 2

是的。检查CUDA 支持/选择 GPU

问题

在具有多个 GPU 的机器上运行您的代码可能会导致您的代码在较旧且速度较慢的 GPU 上执行。

解决方案

如果您知道要使用的 GPU 的设备号，请调用 cudaSetDevice(N)。要获得更强大的解决方案，请在程序开头包含下面显示的代码，以在任何机器上自动选择最佳 GPU。

检查他们的网站以获得进一步的解释。

您可能还会发现这篇文章非常有趣。