7

我期望生成大量数据然后捕获它 R。如何通过行数、列数和变量类型来估计 data.frame 的大小（以及所需的内存）？

例子。

如果我有 10000 行和 150 列，其中 120 个是数字，20 个是字符串，10 个是因子级别，我可以预期的数据框大小是多少？结果是否会根据存储在列中的数据而改变（如max(nchar(column))）？

> m <- matrix(1,nrow=1e5,ncol=150)
> m <- as.data.frame(m)
> object.size(m)
120009920 bytes
> a=object.size(m)/(nrow(m)*ncol(m))
> a
8.00066133333333 bytes
> m[,1:150] <- sapply(m[,1:150],as.character)
> b=object.size(m)/(nrow(m)*ncol(m))
> b
4.00098133333333 bytes
> m[,1:150] <- sapply(m[,1:150],as.factor)
> c=object.size(m)/(nrow(m)*ncol(m))
> c
4.00098133333333 bytes
> m <- matrix("ajayajay",nrow=1e5,ncol=150)
> 
> m <- as.data.frame(m)
> object.size(m)
60047120 bytes
> d=object.size(m)/(nrow(m)*ncol(m))
> d
4.00314133333333 bytes
4

3 回答 3

15

您可以模拟一个对象并计算用于将其存储为 R 对象的内存的估计值object.size：

m <- matrix(1,nrow=1e5,ncol=150)
m <- as.data.frame(m)
m[,1:20] <- sapply(m[,1:20],as.character)
m[,29:30] <- sapply(m[,29:30],as.factor)
object.size(m)
120017224 bytes
print(object.size(m),units="Gb")
0.1 Gb
于 2015-07-23T15:06:19.667 回答
3

您可以创建虚拟变量来存储您将存储在数据框中的数据示例。

然后使用object.size()找到它们的大小并相应地与行和列相乘。

于 2015-07-23T15:09:01.050 回答
3

也检查一下pryr包。它有object_size可能对你稍微好一点。从高级 R

这个函数比内置的 object.size() 更好，因为它考虑了对象内的共享元素并包括环境的大小。

您还需要考虑attributes列类型等的大小。

object.size(attributes(m))
于 2015-07-23T16:02:06.233 回答