3

我在尝试使用%dopar%并foreach()与R6类一起使用时遇到了问题。环顾四周，我只能找到两个与此相关的资源，一个未回答的SO 问题和一个在存储库上的开放GitHub 问题。R6

在一条评论（即 GitHub 问题）中，建议通过将parent_env类的 重新分配为SomeClass$parent_env <- environment(). 我想了解在of中调用environment()此表达式（即 ）时究竟指的是什么？SomeClass$parent_env <- environment()%dopar%foreach

这是一个最小的可重现示例：

Work <- R6::R6Class("Work",

    public = list(
        values = NULL,


        initialize = function() {
            self$values <- "some values"
        }
    )
)

现在，下面Task的类使用Work构造函数中的类。

Task <- R6::R6Class("Task",
    private = list(
        ..work = NULL
    ),


    public = list(
        initialize = function(time) {
            private$..work <- Work$new()
            Sys.sleep(time)
        }
    ),


    active = list(
        work = function() {
            return(private$..work)
        }
    )
)

在Factory类Task中，创建类并foreach在..m.thread().

Factory<- R6::R6Class("Factory",

    private = list(
        ..warehouse = list(),
        ..amount = NULL,
        ..parallel = NULL,


        ..m.thread = function(object, ...) {
            cluster <- parallel::makeCluster(parallel::detectCores() -  1)
            doParallel::registerDoParallel(cluster)

            private$..warehouse <- foreach::foreach(1:private$..amount, .export = c("Work")) %dopar% {
                # What exactly does `environment()` encapsulate in this context?
                object$parent_env <- environment()
                object$new(...) 
            }

            parallel::stopCluster(cluster)
        },


        ..s.thread = function(object, ...) {
            for (i in 1:private$..amount) {
               private$..warehouse[[i]] <- object$new(...)
            }
        },


        ..run = function(object, ...) {
            if(private$..parallel) {
                private$..m.thread(object, ...)
            } else {
                private$..s.thread(object, ...)
            }
        }
    ),


    public = list(
        initialize = function(object, ..., amount = 10, parallel = FALSE) {
            private$..amount = amount
            private$..parallel = parallel

            private$..run(object, ...)
        }
    ),


    active = list(
        warehouse = function() {
            return(private$..warehouse)
        }
    )
)

然后，它被称为：

library(foreach)

x = Factory$new(Task, time = 2, amount = 10, parallel = TRUE)

如果没有以下行object$parent_env <- environment()，则会引发错误（即，如其他两个链接中所述）：Error in { : task 1 failed - "object 'Work' not found".

我想知道，（1）分配parent_env内部时有哪些潜在的陷阱foreach，（2）为什么它首先起作用？

更新1：

  • 我environment()从内部返回foreach()，private$..warehouse捕捉那些环境
  • 在调试会话中使用rlang::env_print()（即，browser()语句在执行结束后立即放置foreach）它们的组成如下：
Browse[1]> env_print(private$..warehouse[[1]])

# <environment: 000000001A8332F0>
# parent: <environment: global>
# bindings:
#  * Work: <S3: R6ClassGenerator>
#  * ...: <...>

Browse[1]> env_print(environment())

# <environment: 000000001AC0F890>
# parent: <environment: 000000001AC20AF0>
# bindings:
#  * private: <env>
#  * cluster: <S3: SOCKcluster>
#  * ...: <...>

Browse[1]> env_print(parent.env(environment()))

# <environment: 000000001AC20AF0>
# parent: <environment: global>
# bindings:
#  * private: <env>
#  * self: <S3: Factory>

Browse[1]> env_print(parent.env(parent.env(environment())))

# <environment: global>
# parent: <environment: package:rlang>
# bindings:
#  * Work: <S3: R6ClassGenerator>
#  * .Random.seed: <int>
#  * Factory: <S3: R6ClassGenerator>
#  * Task: <S3: R6ClassGenerator>
4

1 回答 1

1

免责声明：我在这里所说的很多内容都是基于我所知道的有根据的猜测和推论，我不能保证一切都是 100% 正确的。

我认为可能有很多陷阱，哪一个适用真的取决于你做什么。我认为您的第二个问题更重要，因为如果您了解这一点，您将能够自己评估一些陷阱。

这个主题相当复杂，但您可能可以从阅读R 的 lexical scoping开始。本质上，R 有一种环境层次结构，当 R 代码被执行时，在父环境中寻找其值在当前环境中找不到的变量（这是environment()返回的）（不要与调用者环境混淆） ）。

根据您链接的 GitHub 问题， R6生成器会保存对其父环境的“引用”，并且他们希望他们的类可能需要的所有内容都可以在所述父级或环境层次结构中的某个位置找到，从该父级开始并“向上” .

您使用的解决方法有效的原因是因为您将生成器的父环境替换为foreach并行工作者内部当前调用中的环境（可能是不同的 R 进程，不一定是不同的线程），并且，鉴于您规范可能会导出必要的值，然后 R 的词法范围可以从单独的线程/进程中.export的调用开始搜索缺失值。foreach

对于您链接的特定示例，我发现使其工作的更简单方法（至少在我的 Linux 机器上）是执行以下操作：

library(doParallel)

cluster <- parallel::makeCluster(parallel::detectCores() -  1)
doParallel::registerDoParallel(cluster)
parallel::clusterExport(cluster, setdiff(ls(), "cluster"))

x = Factory$new(Task, time = 1, amount = 3)

但将..m.thread功能保留为：

..m.thread = function(object, amount, ...) {
    private$..warehouse <- foreach::foreach(1:amount) %dopar% {
        object$new(...) 
    }
}

（并在完成后手动调用stopCluster）。

该clusterExport调用应具有类似于*的语义：从主 R 进程的全局环境中获取除 之外的所有内容cluster，并使其在每个并行工作者的全局环境中可用。这样，foreach当词法作用域到达它们各自的全局环境时，调用中的任何代码都可以使用生成器。 foreach可以很聪明并自动导出一些变量（如 GitHub 问题所示），但它有局限性，并且在词法作用域期间使用的层次结构可能会变得非常混乱。

*我说“类似于”是因为如果使用分叉，我不知道 R 究竟做了什么来区分（全局）环境，但由于需要导出，我假设它们确实是相互独立的。

PS：如果您在函数调用中创建工作程序，我会使用on.exit(parallel::stopCluster(cluster))调用，这样您就可以避免留下进程，直到它们在发生错误时以某种方式停止。

于 2019-08-06T22:23:32.917 回答