1
  • 使用 RHEL7.3
  • 使用 R 3.3.2
  • 安装了 Rmpi​​_0.6-6.tar.gz 和 doMPI_0.2.1.tar.gz
  • 为 x86_64 安装了 mpich-3.0-3.0.4-10.el7 RPM

我创建了一个由三台机器组成的集群（aml1、2、3）。我可以从 mpich 安装中运行/examples/cpi示例，并且这些进程在所有三台机器上运行都没有问题。

我还可以运行需要多次运行的 R 脚本，这在 doMPI 文档中进行了讨论——因此该脚本可以在所有集群上运行。

我的问题是，当我的 R 脚本在 %dopar% 之前有代码需要在 master(aml1) 上运行一次，并且在集群 (aml2,aml3) 上运行 %dopar% 时。它只在主服务器上运行。并且 doMPI 说Size of MPI universe: 0并且不识别 aml2 或 aml3。

例如：

跑：mpirun -np 1 --hostfile ~/projects/hosts R --no-save -q < example6.R

（并且我的~/projects/hosts文件被定义为使用 8 个内核）

例子6.R：

library(doMPI) #load doMPI library
cl <- startMPIcluster(verbose=TRUE)
#load data
#clean data
#perform some functions

#let's say I want to have this done in the script and only parallelize this
x <- foreach(seed=c(7, 11, 13), .combine="cbind") %dopar% {
 set.seed(seed)
 rnorm(3)
 }
x
closeCluster(cl)

example6.R 的输出：

Master processor name: aml1; nodename: aml1
Size of MPI universe: 0
Spawning 2 workers using the command:
  /usr/lib64/R/bin/Rscript /usr/lib64/R/library/doMPI/RMPIworker.R WORKDIR=/home/spark LOGDIR=/home/spark MAXCORES=1 COMM=3 INTERCOMM=4 MTAG=10 WTAG=11 INCLUDEMASTER=TRUE BCAST=TRUE VERBOSE=TRUE
 2 slaves are spawned successfully. 0 failed.

如果我定义cl <- startMPIcluster(count=34, verbose=TRUE)我仍然得到以下但至少我可以运行 34 个从站：

Master processor name: aml1; nodename: aml1
Size of MPI universe: 0
34 slaves are spawned successfully. 0 failed.

我该如何解决这个问题？我想运行 R 脚本，以便它在主服务器上运行第一部分，然后在集群上执行 %dopar% 。

谢谢！！

更新 1

自上次更新以来，我尝试运行旧版本的 OpenMPI：

[spark@aml1 ~]$ which mpirun
/opt/openmpi-1.8.8/bin/mpirun

根据@SteveWeston，我创建了以下脚本并运行它：

[spark@aml1 ~]$ cat sanity_check.R
library(Rmpi)
print(mpi.comm.rank(0))
mpi.quit()

使用以下输出：

[spark@aml1 ~]$ mpirun -np 3 --hostfile ~/projects/hosts R --slave -f sanity_check.R
FIPS mode initialized
master (rank 0, comm 1) of size 3 is running on: aml1
slave1 (rank 1, comm 1) of size 3 is running on: aml1
slave2 (rank 2, comm 1) of size 3 is running on: aml1
[1] 0

在这里它只是挂起 - 没有任何反应。

4

1 回答 1

0

我已经接受了@SteveWeston 的回答，因为它帮助我更好地理解了我原来的问题。

我对他的回答发表了评论，说我的 R 脚本挂起仍然存在问题；脚本会运行，但它永远不会自行完成或关闭自己的集群，我必须用 ctrl-C 杀死它。

我最终建立了一个 nfs 环境，在那里构建并安装了 openmpi-1.10.5，并在那里安装了我的 R 库。R 分别安装在两台机器上，但它们在我的 nfs 目录中共享同一个库。以前我在根目录下安装和管理所有东西，包括 R 库（我知道）。我不确定这是否会导致并发症，但我的问题似乎已经解决。

[master@aml1 nfsshare]$ cat sanity_check.R
library(Rmpi)
print(mpi.comm.rank(0))
mpi.quit(save= "no")

[master@aml1 nfsshare]$ mpirun -np 3 --hostfile hosts R --slave -f sanity_check.R
FIPS mode initialized
[1] 1
[1] 0
[1] 2
# no need to ctrl-C here. It no longer hangs
于 2017-02-09T22:35:21.230 回答