这确实是关于内存和数据存储类型的问题。我所有的讨论都将针对 100,000 个数据元素,这样一切都不会陷入困境。
让我们检查一个长度为 100,000 的向量与包含 100,000 个单独元素的列表。
object.size(rep(1L, 1E5))
#400048 bytes
object.size(replicate(1E5, 1, simplify = F))
#6400048 bytes
仅通过以不同方式存储数据,我们就从 0.4 MB 变为 6.4 MB!将其应用于您的函数Map(veryfing_function, ...)
并且只有 1E5 个元素时:
dt <- data.table(letters = replicate(1e5, sample(letters[1:5], 3, TRUE), simplify = FALSE),
numbers = replicate(1e5, sample(letters[6:10], 3, TRUE), simplify = FALSE))
tic()
result2 <- Map(veryfing_function, dt[['letters']], dt[['numbers']])
toc()
# 11.93 sec elapsed
object.size(result2)
# 109,769,872 bytes
#example return:
[[1000]]
[[1000]]$`1`
[1] "cg" "bg" "cg"
[[1000]]$`2`
[1] "ch" "bh" "ch"
[[1000]]$`3`
[1] "ch" "bh" "ch"
我们可以对您的函数进行简单修改以返回未命名列表而不是拆分,并且我们节省了一点内存,因为split()
似乎给出了命名列表,我认为我们不需要名称:
verifying_function2 <- function(vec1, vec2) {
vector <- outer(vec1, vec2, paste0) #not as.vector
lapply(seq_len(ncol(vector)), function(i) vector[, i]) #no need to split, just return a list
}
tic()
result2_mod <- Map(verifying_function2, dt[['letters']], dt[['numbers']])
toc()
# 2.86 sec elapsed
object.size(result2_mod)
# 73,769,872 bytes
#example_output
[[1000]]
[[1000]][[1]]
[1] "cg" "bg" "cg"
[[1000]][[2]]
[1] "ch" "bh" "ch"
[[1000]][[3]]
[1] "ch" "bh" "ch"
下一步是为什么要返回一个列表列表。我lapply()
在修改后的函数中使用只是得到你的输出。失去lapply()
将改为矩阵列表,我认为这将是有帮助的:
tic()
result2_mod2 <- Map(function(x,y) outer(x, y, paste0), dt[['letters']], dt[['numbers']])
toc()
# 1.66 sec elapsed
object.size(result2_mod2)
# 68,570,336 bytes
#example output:
[[1000]]
[,1] [,2] [,3]
[1,] "cg" "ch" "ch"
[2,] "bg" "bh" "bh"
[3,] "cg" "ch" "ch"
最后一个合乎逻辑的步骤是只返回一个矩阵。请注意,我们一直在反对简化,mapply(..., simplify = F)
它等同于Map()
.
tic()
result2_mod3 <- mapply(function(x,y) outer(x, y, paste0), dt[['letters']], dt[['numbers']])
toc()
# 1.3 sec elapsed
object.size(result2_mod3)
# 7,201,616 bytes
如果你想要一些维度,你可以将大矩阵转换为 3D 数组:
tic()
result2_mod3_arr <- array(as.vector(result2_mod3), dim = c(3,3,1E5))
toc()
# 0.02 sec elapsed
result2_mod3_arr[,,1000]
[,1] [,2] [,3]
[1,] "cg" "ch" "ch"
[2,] "bg" "bh" "bh"
[3,] "cg" "ch" "ch"
object.size(result2_mod3_arr)
# 7,201,624 bytes
我还查看了@marbel 的答案——它更快并且只占用了更多的内存。我的方法可能会通过dt
尽快将初始列表转换为其他内容而受益。
tic()
dt1 = as.data.table(do.call(rbind, dt[['letters']]))
dt2 = as.data.table(do.call(rbind, dt[['numbers']]))
res = data.table()
combs = expand.grid(names(dt1), names(dt2), stringsAsFactors=FALSE)
set(res, j=paste0(combs[,1], combs[,2]), value=paste0( dt1[, get(combs[,1])], dt2[, get(combs[,2])] ) )
toc()
# 0.14 sec elapsed
object.size(res)
# 7,215,384 bytes
tl;dr - 将您的对象转换为矩阵或 data.frame 以使其更容易记忆。你的函数版本需要更长的时间也是有道理的data.table
——可能比直接应用更多的开销mapply()
。