多 gpu cuda 设置上的所有 GPU 是否必须是使用 CUDA 的同一型号 gpu？
例如，我现在有一个 Geforce 950。如果我再得到几张卡，它们都必须是 950 吗？（如果是这样，我是否必须留在同一家制造商？）
一个答案显示了如何在每个单独的 GPU 上控制 CUDA（假设 GPU 都是具有相同计算级别的 CUDA），并确认我可以购买不同型号的 NVIDIA 卡（在我花费 300 美元之前）并安装在同一个 CUDA 上install （因为 CUDA 工具是在每台机器上编译的），就足够了。
因此，例如，一个向我展示如何获取 tensorflow .py 脚本并在下面的答案中使用 CUDA 命令在我板上的三个 GPU 之一上运行它的答案也很好（对于为了这个问题；我想我现在肯定有足够的工作来找出答案）。
我相信这与 CUDA 软件如何处理硬件有关，并且在 SuperUser 上会偏离主题；但是我很高兴改变它。
答案是：你可以处理你想要的每一个不同的 CUDA GPU。CUDA 中的应用程序可以处理多个不同的显卡和多个不同的 GPU，只要您管理它们。
查看CUDA 常见问题解答，“硬件和架构”部分，以及多 GPU 幻灯片，均来自 Nvidia 官方。
问：CUDA 是否支持一个系统中的多个显卡？
是的。应用程序可以跨多个 GPU 分配工作。但是，这不是自动完成的，因此应用程序可以完全控制。有关对多个 GPU 进行编程的示例，请参阅 GPU Computing SDK 中的“multiGPU”示例。
祝你好运在非 NVIDIA 卡上运行 CUDA，但实际上是谁制造它并不重要（EVGA、MSI 等）。
这将回答您的问题（以及如何实现的示例）：
http://www.nvidia.com/docs/IO/116711/sc11-multi-gpu.pdf
编辑添加：
简短的回答：没关系。这不是 SLI。
它们不必是完全相同的卡（型号或制造商），但如果它们具有相同的计算能力则更好（从开发的角度来看）。
您可以使用 cudaSetDevice 等函数完全控制工作共享，如此处所述