4

我有一个 SQL 表，可以映射作者和书籍。我想将链接的作者和书籍（由同一作者撰写的书籍，以及共同撰写书籍的作者）分组在一起，并确定这些组有多大。例如，如果 JK Rowling 与 Junot Diaz 合着，Junot Diaz 与 Zadie Smith 合着一本书，那么我希望所有三位作者都在同一个组中。

这是一个玩具数据集（h/t Matthew Dowle），其中包含我正在谈论的一些关系：

set.seed(1)
authors <- replicate(100,sample(1:3,1))
book_id <- rep(1:100,times=authors)
author_id <- c(lapply(authors,sample,x=1:100,replace=FALSE),recursive=TRUE)
aubk <- data.table(author_id = author_id,book_id = book_id)
aubk[order(book_id,author_id),]

在这里可以看到作者 27 和 36 共同编写了书 2，因此他们应该在同一组中。63 位作者和 3 位作者 100 位相同；和 D、F 和 L 为 4。依此类推。

除了 for 循环之外，我想不出一个好方法，它（你可以猜到）很慢。我尝试了一些data.table以避免不必要的复制。有更好的方法吗？

aubk$group <- integer(dim(aubk)[1])
library(data.table)
aubk <- data.table(aubk)
#system.time({
for (x in 1:dim(aubk)[1]) {
    if(identical(x,1)) {
        value <- 1L
    } else {
        sb <- aubk[1:(x-1),]
        index <- match(aubk[x,author_id],sb[,author_id])
        if (identical(index,NA_integer_)) {
            index <- match(aubk[x,book_id],sb[,book_id])
            if (identical(index,NA_integer_)) {
                value <- x
            } else {
                value <- aubk[index,group]
            }
        } else {
            value <- aubk[index,group]
        }
    }
    aubk[x,group:=value]
}
#})

编辑：正如@Josh O'Brien 和@thelatemail 所提到的，我的问题也可以表述为从每条边都是一行的两列列表中寻找图的连通分量，两列是连接的节点.

4

3 回答 3

3

将 500K 节点转换为邻接矩阵对我的计算机内存来说太多了，所以我无法使用igraph. 该RBGL软件包未针对 R 版本 2.15.1 进行更新，因此也已发布。

在编写了很多似乎不起作用的愚蠢代码之后，我认为以下内容让我得到了正确的答案。

aubk[,grp := author_id]
num.grp.old <- aubk[,length(unique(grp))]
iterations <- 0
repeat {
    aubk[,grp := min(grp),by=author_id]
    aubk[,grp := min(grp), by=book_id]
    num.grp.new <- aubk[,length(unique(grp))] 
    if(num.grp.new == num.grp.old) {break}
    num.grp.old <- num.grp.new
    iterations <- iterations + 1
}
于 2012-10-18T05:50:21.947 回答
1

这是我对 Josh O'Brien 在评论中链接的一个老问题的回答重新散列（确定链接在一起的链接剧集组）。这个答案使用igraph图书馆。

# Dummy data that might be easier to interpret to show it worked
# Authors 1,2 and 3,4 should group. author 5 is a group to themselves
aubk <- data.frame(author_id=c(1,2,3,4,5),book_id=c(1,1,2,2,5))

# identify authors with a bit of leading text to prevent clashes 
# with the book ids
aubk$author_id2 <- paste0("au",aubk$author_id)

library(igraph)
#create a graph - this needs to be matrix input
au_graph <- graph.edgelist(as.matrix(aubk[c("author_id2","book_id")]))
# get the ids of the authors
result <- data.frame(author_id=names(au_graph[1]),stringsAsFactors=FALSE)
# get the corresponding group membership of the authors
result$group <- clusters(au_graph)$membership

# subset to only the authors data
result <- result[substr(result$author_id,1,2)=="au",]
# make the author_id variable numeric again
result$author_id <- as.numeric(substr(result$author_id,3,nchar(result$author_id)))

> result
  author_id group
1         1     1
3         2     1
4         3     2
6         4     2
7         5     3
于 2012-09-28T21:01:45.193 回答
0

几个建议

aubk[,list(author_list = list(sort(author_id))), by = book_id]

将给出作者组列表

以下将为每组作者创建一个唯一标识符，然后返回一个列表

  • 书籍数量
  • 图书ID列表
  • book_ids 的唯一标识符
  • 作者数量

对于每个独特的作者组

aubk[, list(author_list = list(sort(author_id)), 
            group_id = paste0(sort(author_id), collapse=','), 
            n_authors = .N),by =  book_id][,
        list(n_books = .N, 
             n_authors = unique(n_authors), 
             book_list = list(book_id), 
             book_ids = paste0(book_id, collapse = ', ')) ,by = group_id]

如果作者顺序很重要，只需删除和sort的定义author_listgroup_id

编辑

注意到上述内容虽然有用，但并未进行适当的分组

也许以下将

# the unique groups of authors by book
unique_authors <- aubk[, list(sort(author_id)), by = book_id]
# some helper functions
# a filter function that allows arguments to be passed
.Filter <- function (f, x,...) 
{
  ind <- as.logical(sapply(x, f,...))
  x[!is.na(ind) & ind]
}

# any(x in y)?
`%%in%%` <- function(x,table){any(unlist(x) %in% table)}
# function to filter a list and return the unique elements from 
# flattened values
FilterList <- function(.list, table) {
  unique(unlist(.Filter(`%%in%%`, .list, table =table)))
}

# all the authors
all_authors <- unique(unlist(unique_authors))
# with names!
setattr(all_authors, 'names', all_authors)
# get for each author, the authors with whom they have
# collaborated in at least 1 book
lapply(all_authors, FilterList, .list = unique_authors)
于 2012-09-28T00:15:15.750 回答