1

我有一个函数，我可以动态地将多个公式构建为字符串并将它们转换为带有as.formula. doSNOW然后，我在并行过程中使用and调用该函数，foreach并通过dplyr::mutate_.

当我使用并行运行时lapply(formula_list, as.formula)出现错误could not find function *custom_function*，尽管在本地运行时它工作正常。但是，当我使用lapply(formula_list, function(x) as.formula(x)它时，它可以并行和本地工作。

为什么？理解这里的环境的正确方法是什么以及编码它的“正确”方法是什么？

我确实收到一条警告，上面写着：In e$fun(obj, substitute(ex), parent.frame(), e$data) : already exporting variable(s): *custom_func*

下面是一个最小的可重现示例。

# Packages
library(dplyr)
library(doParallel)
library(doSNOW)
library(foreach)

# A simple custom function
  custom_sum <- function(x){
    sum(x)
  } 

# Functions that call create formulas and use them with nse dplyr:
  dplyr_mut_lapply_reg <- function(df){
    my_dots <- setNames(
      object = lapply(list("~custom_sum(Sepal.Length)"), as.formula),
      nm     = c("Sums")
    )

    return(
      df %>%
      group_by(Species) %>%
      mutate_(.dots = my_dots)
    )
  }

  dplyr_mut_lapply_lambda <- function(df){
    my_dots <- setNames(
      object = lapply(list("~custom_sum(Sepal.Length)"), function(x) as.formula(x)),
      nm     = c("Sums")
   )

    return(
      df %>%
      group_by(Species) %>%
      mutate_(.dots = my_dots)
   )
 }

#1. CALLING BOTH LOCALLY
dplyr_mut_lapply_lambda(iris) #works
dplyr_mut_lapply_reg(iris) #works

#2. CALLING IN PARALLEL
  #Faux Parallel Setup
  cl <- makeCluster(1, outfile="")
  registerDoSNOW(cl)

  # Call Lambda Version WORKS
  foreach(j = 1,
          .packages = c("dplyr", "tidyr"),
          .export   = lsf.str()
          ) %dopar% {
     dplyr_mut_lapply_lambda(iris) 
  }



  # Call Regular Version FAILS
  foreach(j = 1,
          .packages = c("dplyr", "tidyr"),
          .export   = lsf.str()
          ) %dopar% {
     dplyr_mut_lapply_reg(iris) 
  }

  # Close Cluster
  stopCluster(cl)

编辑：在我原来的帖子标题中，我写道我正在使用 nse，但我的真正意思是使用标准评估。哎呀。我已经相应地改变了这一点。

4

1 回答 1

1

我对这里的原因没有确切的答案，但是未来的包（我是作者）处理这些类型的“棘手”全局变量 - 它们很棘手，因为它们不是包的一部分并且它们是嵌套的，即一个全局调用另一个全局。例如，如果您使用：

library("doFuture")
cl <- parallel::makeCluster(1, outfile = "")
plan(cluster, workers = cl)
registerDoFuture()

那个有问题的“调用常规版本失败”案例现在应该可以工作了。

现在，上面使用parallel::makeCluster()which 默认为type = "PSOCK"，而如果你加载 doSNOW 你会得到snow::makeCluster()默认为type = "MPI". 不幸的是，还没有为未来的包实现完整的 MPI 后端。因此，如果您正在寻找 MPI 解决方案，这将不会帮助您（还）。

于 2017-06-24T21:33:15.253 回答