0

所以我有一些看起来像这样的代码......

resultsCombined <- foreach(
    x in 1:bigNumber,
    .combine = rbind,
) %dopar% {
    return(f(x))
}

...每次迭代f(x)都被聚合在一起resultsCombined,并带有bigNumber多行结果。 f(x)是一些复杂的蒙特卡洛模拟,为了使用更多内核运行如此多的迭代,我想我需要使用数据块。我不清楚在databricks中我仍然可以使用foreachand %dopar%,而是我正在尝试这个......

spark_apply(
    1:bigNumber,
    function(x){f(x)}
)

...再次,哪里f(x)是多行模拟代码的占位符。结果是如何返回的,我没有指定rbind所有f(x)结果的任何地方,也没有一些resultsCombined数据框可以捕获所有结果。我是新手sparklyr,但我没有看到如何从spark_apply我的任何谷歌搜索中收集结果。谢谢!

4

0 回答 0