5

我编写了以下 R 代码来识别目录中的重复文件。如何使用 plyr 包（或类似包）对 for 循环进行矢量化？我想实现一种比我想出的更惯用的 R 解决方案。

library("digest") # to compute the MD5 digest
test_dir = "/Users/user/Dropbox/kaggle/r_projects/test_photo"
filelist <- dir(test_dir, pattern = "JPG|AVI", recursive=TRUE, 
                all.files =TRUE, full.names=TRUE)

fl = list() #create and empty list to hold md5's and filenames

for (itm in filelist) {
  file_digest = digest(itm, file=TRUE, algo="md5")
  fl[[file_digest]]= c(fl[[file_digest]],itm)
}
fl

输出是（使用一个小的测试目录）：

> fl
$`5715b719723c5111b3a38a6ff8b7ca56`
[1] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_a/IMG_3480 copy.JPG"
[2] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_a/IMG_3480.JPG"     

$`24fd4d7d252ca66c8d7a88b539c55112`
[1] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_a/IMG_3481 copy.JPG"
[2] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_a/IMG_3481.JPG"     
[3] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_b/IMG_3481.JPG"     

$`2a1d668c874dc856b9df0fbf3f2e81ec`
[1] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_a/IMG_3482 copy.JPG"
[2] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_a/IMG_3482.JPG"     
[3] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_b/IMG_3482 copy.JPG"
[4] "/Users/user/Dropbox/kaggle/r_projects/test_photo/folder_b/IMG_3482.JPG"

我试过：

h=ldply(filelist, digest, file=TRUE, algo="md5")
h$filenames=filelist

但最终每个键值对（MD5，文件名）都有一个唯一的行。我无法获得所需的紧凑输出。

（背景：作为练习，我转换了 Raymond Hettinger 在他的 PyCon AU 2011 主题演讲“What Makes Python Awesome”中提出的 Python 代码。幻灯片在这里：http ://slidesha.re/WKkh9M 。我能够剪切LOC 减半，但我认为我可以通过矢量化做得更好 - 并了解更多）。

4

2 回答 2

6

这是base中的一个更简洁的解决方案：

md5s<-sapply(filelist,digest,file=TRUE,algo="md5")
split(filelist,md5s)
于 2012-12-27T20:55:45.413 回答
4

这是一个答案。首先将 md5 和文件名放在带有ldply. 然后，创建您想要的列表dlply。

fl <- ldply(seq_along(filelist), function(idx) 
          c(digest(filelist[idx], file=TRUE, algo="md5"), 
          filelist[idx]))
fl <- dlply(fl, .(V1), function(x) x$V2)
于 2012-12-27T20:37:46.183 回答