python - 让 Pycuda 在 2 gpus 上使用 Mpi4py

Question

我正在尝试跨两个 gpus 运行 pycuda 程序。我读过 Talonmies 的一篇很棒的文章，解释了你如何使用线程库来做这件事，这篇文章还提到这可以通过 mpi4py 实现。

当我用 pycuda 运行 mpi4py 时，程序给出错误：self.ctx = driver.Device(gpuid).max_context pycuda._driver.logicError: cuDeviceGet failed: not initialized

也许这是因为我试图同时初始化两个 gpu 设备。有没有人有一个非常简短的例子来说明我们如何让 2 gpus 与 mpi4py 一起工作？

Answer 1

对于任何碰巧遇到这个问题的人，这里有一个工作 mpi4py+pycuda 示例。