5

我有一个包含 20000 多行和一列的数据表。每列中的字符串具有不同数量的单词。我想拆分单词并将它们中的每一个放在一个新列中。我知道如何逐字逐句地做到这一点:

Data [ , Word1 := as.character(lapply(strsplit(as.character(Data$complaint), split=" "), "[", 1))]

Data是我的数据表,complaint是列名)

显然,这效率不高,因为每行中的每个单元格都有不同数量的单词。

你能告诉我一个更有效的方法吗?

4

5 回答 5

11

自 CRAN 版本 1.9.6 起,两个函数transpose()tstrsplit()可用。

有了这个我们可以做到:

require(data.table)
setDT(tstrsplit(as.character(df$x), " ", fixed=TRUE))[]
#      V1       V2          V3  V4
# 1: This       is interesting  NA
# 2: This actually          is not

tstrsplittranspose(strsplit(...)).

于 2015-01-27T19:21:56.607 回答
10

cSplit从我的“splitstackshape”包中查看。它适用于data.frames 或data.tables (但总是返回 a data.table)。

假设 KFB 的样本数据至少稍微代表您的实际数据,您可以尝试:

library(splitstackshape)
cSplit(df, "x", " ")
#     x_1      x_2         x_3 x_4
# 1: This       is interesting  NA
# 2: This actually          is not

另一个(惊人的)选项是使用stri_split_fixedwith simplify = TRUE(来自“stringi”)(这显然被认为很快就会进入“splitstackshape”代码):

library(stringi)
stri_split_fixed(df$x, " ", simplify = TRUE)
#      [,1]   [,2]       [,3]          [,4] 
# [1,] "This" "is"       "interesting" NA   
# [2,] "This" "actually" "is"          "not"
于 2014-11-13T01:47:12.340 回答
3

这是基于包rbind.fill.matrix(...)中的解决方案plyr。在包含 20,000 行的数据集上,它的运行时间约为 3.6 秒。

# create an sample dataset - you have this already
library(data.table)
words <- LETTERS[1:10]     # "words" are just letters in this example
set.seed(1)                # for reproducible example
w  <- sapply(1:2e4,function(i)paste(words[sample(1:10,sample(1:10,1))],collapse=" "))
dt <- data.table(words=w)
head(dt)
#          complaint
# 1:           D F H
# 2:           I J F
# 3:   A B I E C D H
# 4: J D G H B I A E
# 5:         A D G C
# 6:       F E B J I

# you start here...
library(plyr)
result <- rbind.fill.matrix(lapply(strsplit(dt$words, split=" "),matrix,nr=1))
result <- as.data.table(result)
head(result)
#    1 2 3  4  5  6  7  8  9 10
# 1: D F H NA NA NA NA NA NA NA
# 2: I J F NA NA NA NA NA NA NA
# 3: A B I  E  C  D  H NA NA NA
# 4: J D G  H  B  I  A  E NA NA
# 5: A D G  C NA NA NA NA NA NA
# 6: F E B  J  I NA NA NA NA NA

编辑:根据@Ananda 下面的评论添加了一些基准测试。

f.rfm    <- function() as.data.table(rbind.fill.matrix(lapply(strsplit(dt$complaint, split=" "),matrix,nr=1)))
library(splitstackshape)
f.csplit <- function() cSplit(dt, "complaint", " ",type.convert=FALSE)
library(stringi)
f.sl2m   <- function() as.data.table(stri_list2matrix(strsplit(dt$complaint, split=" "), byrow = TRUE))
f.ssf    <- function() as.data.table(stri_split_fixed(dt$complaint, " ", simplify = TRUE))

all.equal(f.rfm(),f.csplit(),check.names=FALSE)
# [1] TRUE
all.equal(f.rfm(),f.sl2m(),check.names=FALSE)
# [1] TRUE
all.equal(f.rfm(),f.ssf(),check.names=FALSE)
# [1] TRUE
library(microbenchmark)
microbenchmark(f.rfm(),f.csplit(),f.sl2m(),f.ssf(),times=10)
# Unit: milliseconds
#        expr        min         lq     median        uq        max neval
#     f.rfm() 3566.17724 3589.31203 3606.93303 3665.4087 3719.32299    10
#  f.csplit()   98.05709  102.46456  104.51046  107.9588  117.26945    10
#    f.sl2m()   55.45527   55.58852   56.75406   58.9347   67.44523    10
#     f.ssf()   17.77499   17.98879   18.30831   18.4537   21.62161    10

所以看起来stri_split_fixed(...)是赢家。

于 2014-11-13T00:49:25.727 回答
2

一个示例数据会很好,但如果我理解你想要什么,就不可能在数据框中正确地做。鉴于每行中有不同数量的单词,您将需要一个列表。尽管如此,拆分整个对象中的单词非常简单。

如果您运行strsplit(as.character(Data[,1]), " "),您将获得一个列表,其中每个元素对应于数据框中的一行。从那以后,有几种不同的方法可以重新排列这个对象,但最好的方法取决于你的目标

于 2014-11-13T00:06:23.967 回答
2

data.table 和 data.frame 都可以

# toy data
df <- structure(list(x = structure(c(2L, 1L), .Label = c("This actually is not", 
"This is interesting"), class = "factor")), .Names = "x", row.names = c(NA, 
-2L), class = "data.frame")

#                      x
# 1  This is interesting
# 2 This actually is not

# the code
split_result <- strsplit(as.character(df$x), " ")
length_n <- sapply(split_result, length)
length_max <- seq_len(max(length_n))
as.data.frame(t(sapply(split_result, "[", i = length_max))) # Or as.data.table(...)

#     V1       V2          V3   V4
# 1 This       is interesting <NA>
# 2 This actually          is  not
于 2014-11-13T00:44:10.080 回答