3

我想在 R 中运行多个偏最小二乘模型，并试图利用并行包。但是，在运行我的代码后，我可以在我的任务管理器中看到 Rscript 实例，除非我关闭 RStudio，否则它们不会终止。这些 Rscipt 是一个问题，因为如果我执行太多迭代，它们会耗尽我计算机上的所有可用内存，并且基本上会停止运行。

有谁知道如何处理这些徘徊的Rscripts（或者可以指出我的代码中的错误，我是R新手）？

下面是我的示例代码：

library(pls)       #Package for PLS regression and MSC
library(parallel)  #Allows for multi-core computations for cross-validation calculations

data(gasoline)

#Parallel Computing setup
num_cores <- 2
Made_Cluster = makeCluster(num_cores, type = "PSOCK")

num_iterations <- 10
for (i in 1:num_iterations) {
  pls.options(parallel = makeCluster(num_cores, type = "PSOCK"))
  gas1 <- plsr(octane ~ NIR, data = gasoline, validation = "LOO")
}
stopCluster(Made_Cluster)

我已经确认在循环内放置 makeCluster 和 StopCluster 命令会产生相同的不会终止的 Rscript。它也会发生，即使 num_cores <- 1

library(pls)       #Package for PLS regression and MSC
library(parallel)  #Allows for multi-core computations for cross-validation calculations

data(gasoline)

#Parallel Computing setup
num_cores <- 1

num_iterations <- 10
for (i in 1:num_iterations) {
Made_Cluster = makeCluster(num_cores, type = "PSOCK")
  pls.options(parallel = makeCluster(num_cores, type = "PSOCK"))
  gas1 <- plsr(octane ~ NIR, data = gasoline, validation = "LOO")
stopCluster(Made_Cluster)
}

最后，终端显示关于未使用连接的奇怪消息。这些警告表现出不同的语法，我无法始终如一地重现它们。这里有几个例子：

Warning messages:
1: In if (!is.vector(X) || is.object(X)) X <- as.list(X) :
      closing unused connection 4 (<-mycomputer:port#)
2: In is.data.frame(x) :
  closing unused connection 13 (<-mycomputer:port#)
3: In crossprod(q.a) :
  closing unused connection 17 (<-mycomputer:port#)

这是我的会话信息（）

Rstudio 
$version
[1] ‘1.1.456’

R version 3.5.1 (2018-07-02)
Platform: x86_64-w64-mingw32/x64 (64-bit)
Running under: Windows 7 x64 (build 7601) Service Pack 1

Matrix products: default

locale:
[1] LC_COLLATE=English_United States.1252  LC_CTYPE=English_United States.1252   
[3] LC_MONETARY=English_United States.1252 LC_NUMERIC=C                          
[5] LC_TIME=English_United States.1252    

attached base packages:
[1] parallel  stats     graphics  grDevices utils     datasets  methods   base     

other attached packages:
[1] pls_2.6-0

loaded via a namespace (and not attached):
[1] compiler_3.5.1 tools_3.5.1
4

1 回答 1

0

您只想创建一个“集群”对象（= 一次调用makeCluster()，而不是多个）。就像是：

cl <- makeCluster(num_cores, type = "PSOCK")
pls.options(parallel = cl)

[...]
for (i in 1:num_iterations) {
   gas1 <- plsr(octane ~ NIR, data = gasoline, validation = "LOO")
}

stopCluster(cl)

您的观察结果的解释：如果您使用pls.options(parallel = makeCluster(...))，您最终会在该调用中创建另一个集群，由于您没有处理它，因此不会显式停止该集群。当 R 的垃圾收集器发现这样一个“流浪”集群时，它的底层连接最终将被关闭——这就是你收到这些警告的原因/时间。如果您放入pls.options(parallel = makeCluster(...))循环中，您将在每次迭代中创建一个杂散集群，您将收到更多警告。垃圾收集器在“随机”时间运行，这就是为什么这些警告的回溯出现随机/不可重现的原因。

于 2018-08-17T06:46:52.857 回答