4

我是 mongodb 和 map-reduce 的新手,想通过使用 k-means 空间聚类来评估空间数据。我发现这篇文章似乎是对算法的一个很好的描述,但我不知道如何将它翻译成一个 mongo shell 脚本。假设我的数据如下所示:

{
  _id: ObjectID(),
  loc: {x: <longitude>, y: <latitude>},
  user: <userid>
}

我可以使用 { k = sqrt(n/2) } 其中 n 是样本数。我可以使用聚合来获取数据的边界范围和计数等。我有点迷失了对集群点文件的引用,我认为这只是另一个集合,我不知道该怎么做迭代或者是否会在客户端或数据库中完成?

好的,我在这方面取得了一些进展,因为我已经生成了初始随机点数组,我需要在 map-reduce 阶段计算最小二乘之和,但我不知道如何将这些传递给地图功能。我尝试编写 map 函数:

var mapCluster = function() {
    var key = -1;
    var sos = 0;
    var pos;
    for (var i=0; i<pts.length; i++) {
        var dx = pts[i][0] - this.arguments.pos[0];
        var dy = pts[i][1] - this.arguments.pos[1];
        var sumOfSquare = dx*dx + dy*dy;
        if (i == 0 || sumOfSquares < sos) {
            key = i;
            sos = sumOfSquares;
            pos = this.arguments.pos;
        }
    }
    emit(key, pos);
};

在这种情况下,聚类点就像,这可能行不通:

var pts = [ [x,y], [x1,y1], ... ];

因此,对于每次 mr 迭代,我们将所有收集点与该数组进行比较,并发出我们最接近的点的索引以及收集点的位置,然后在 reduce 函数中,与每个索引关联的点的平均值将是用于创建新的聚类点位置。然后在完成函数中我可以更新集群文档。

我假设我可以在集群文档上执行 findOne() 以在 map 函数中加载集群点,但我们是否希望在每次调用 map 时加载此文档?或者有没有办法为每次迭代加载一次?

所以看起来你可以像这样使用范围变量来执行上述操作:

db.main.mapReduce( mapCluster, mapReduce, { scope: { pnts: pnts, ... }} );

您必须小心范围内的变量名,因为它们被放置在映射的范围内,减少和完成函数,它们可能与现有的变量名发生冲突。

4

1 回答 1

0

你试过什么?

请注意,您将需要不止一轮的映射器。

使用在 MR 上运行 k-means 的规范方法,每次迭代都需要一个 mapper/reducer 。

那么,您可以尝试仅编写单次迭代的 map 和 reduce 步骤吗?

于 2013-02-17T10:52:13.050 回答