84

我已经浏览了几篇文章和示例，但尚未找到在 MongoDB 中执行此 SQL 查询的有效方法（其中有数百万行文件）

第一次尝试

（例如，来自这个几乎重复的问题 - Mongo 相当于 SQL 的 SELECT DISTINCT？）

db.myCollection.distinct("myIndexedNonUniqueField").length

显然我得到了这个错误，因为我的数据集很大

Thu Aug 02 12:55:24 uncaught exception: distinct failed: {
        "errmsg" : "exception: distinct too big, 16mb cap",
        "code" : 10044,
        "ok" : 0
}

第二次尝试

我决定尝试做一个小组

db.myCollection.group({key: {myIndexedNonUniqueField: 1},
                initial: {count: 0}, 
                 reduce: function (obj, prev) { prev.count++;} } );

但我收到了这个错误消息：

exception: group() can't handle more than 20000 unique keys

第三次尝试

我还没有尝试过，但有几个建议涉及mapReduce

例如

还

似乎 GitHub 上有一个拉取请求修复了该.distinct方法，提到它应该只返回一个计数，但它仍然是开放的：https ://github.com/mongodb/mongo/pull/34

但在这一点上，我认为值得在这里问一下，关于这个主题的最新消息是什么？我应该转移到 SQL 还是其他 NoSQL DB 来进行不同的计数？还是有有效的方法？

更新：

对 MongoDB 官方文档的评论并不令人鼓舞，这是准确的吗？

http://www.mongodb.org/display/DOCS/Aggregation#comment-430445808

更新2：

似乎新的聚合框架回答了上述评论...（MongoDB 2.1/2.2 及更高版本，提供开发预览，不适用于生产）

http://docs.mongodb.org/manual/applications/aggregation/

4

3 回答 3

75

1) 最简单的方法是通过聚合框架。这需要两个“$group”命令：第一个按不同的值分组，第二个计算所有不同的值

pipeline = [ 
    { $group: { _id: "$myIndexedNonUniqueField"}  },
    { $group: { _id: 1, count: { $sum: 1 } } }
];

//
// Run the aggregation command
//
R = db.runCommand( 
    {
    "aggregate": "myCollection" , 
    "pipeline": pipeline
    }
);
printjson(R);

2）如果你想用 Map/Reduce 做到这一点，你可以。这也是一个两阶段的过程：在第一阶段，我们构建一个新集合，其中包含键的每个不同值的列表。在第二个中，我们对新集合执行 count()。

var SOURCE = db.myCollection;
var DEST = db.distinct
DEST.drop();


map = function() {
  emit( this.myIndexedNonUniqueField , {count: 1});
}

reduce = function(key, values) {
  var count = 0;

  values.forEach(function(v) {
    count += v['count'];        // count each distinct value for lagniappe
  });

  return {count: count};
};

//
// run map/reduce
//
res = SOURCE.mapReduce( map, reduce, 
    { out: 'distinct', 
     verbose: true
    }
    );

print( "distinct count= " + res.counts.output );
print( "distinct count=", DEST.count() );

请注意，您不能返回内联 map/reduce 的结果，因为这可能会超出 16MB 文档大小的限制。您可以将计算保存在一个集合中，然后 count() 计算集合的大小，也可以从 mapReduce() 的返回值中获取结果的数量。

于 2012-08-02T22:39:32.033 回答
37 
db.myCollection.aggregate( 
   {$group : {_id : "$myIndexedNonUniqueField"} }, 
   {$group: {_id:1, count: {$sum : 1 }}});

直接结果：

db.myCollection.aggregate( 
   {$group : {_id : "$myIndexedNonUniqueField"} }, 
   {$group: {_id:1, count: {$sum : 1 }}})
   .result[0].count;
于 2013-03-04T21:32:13.427 回答
2

以下解决方案对我有用

db.test.distinct('user'); [“亚历克斯”、“英格兰”、“法国”、“澳大利亚”]

db.countries.distinct('country').length 4

于 2017-05-25T06:06:20.113 回答