4

我有一组代表一些工作项的文档:

public class WorkItem
{
    public string Id {get;set;
    public string DocumentId { get; set; }
    public string FieldId { get; set; }
    public bool IsValidated { get; set; }
}

public class ExtractionUser
{
    public string Id {get;set;}
    public string Name {get;set;}
    public string[] AssignedFields {get;set;}
}

用户有权访问一组 FieldId。我需要根据这组字段查询 WorkItems 并获取每个文档的状态:

public class UserWorkItems
{
    public string DocumentId { get; set; }
    public int Validated { get; set; }
    public int Total { get; set; }
}

我的查询是这样的:

using (var session = RavenDb.OpenSession())
{
    string[] userFields = session.Load<User>("users/1").Fields;
    session.Query<WorkItem>()
        .Where(w => w.FieldId.In(userFields))
        .GroupBy(w => w.DocumentId)
        .Select(g => new
        {
            DocumentId = g.Key,
            Validated = g.Where(w => w.IsValidated).Count(),
            Total = g.Count()
        }).Skip(page * perPage).Take(perPage)
        .ToArray();
}

我曾尝试创建一个 Map/Reduce 索引,但主要问题是我需要能够对未包含在 Reduce 输出中的 FieldId 应用过滤器,因为它是被计算的属性。

我还尝试在查询部分的 FieldId 和 TransformResults 上做一个简单的 Map 索引来执行 GroupBy - 但由于分页是在 TransformResults 之前应用的,所以页面和总计反映了分组之前的文档,这是不好的。

然后我尝试使用 Multi Map 索引来映射用户及其字段集合,并映射工作项和字段,然后尝试将结果减少到我想要的。我用索引定义创建了一个要点。减少部分涉及按字段分组,然后是多个 SelectMany 和最后一个 GroupBy 和 Select。该索引已被 raven 接受,但 i 不返回任何结果。我有点卡在 Multi Map 索引上,因为我不知道如何实际调试它。

我想最后我的问题可能会减少(双关语)如何查询“减少”字段?

有什么想法可以实现这样的功能吗?除了 Map/MultiMap/Reduce/TransformResults 之外,我还有其他选择吗?

更新:在阅读Ayende 的 Map Reduce 帖子时,我意识到我正在接近 mapreduce 错误。仍在寻找解决方案...

更新 2:经过更多研究,我最终得到了这个索引,它看起来像我想要做的,但不返回任何数据(索引直接在工作室中定义):

地图:

from user in docs
where user["@metadata"]["Raven-Entity-Name"] == "ExtractionUsers"
from field in user.AssignedFields
from item in docs
where item["@metadata"]["Raven-Entity-Name"] == "WorkItems" && item.FieldId == field
select new {
    UserId = user.Id,
    DocumentId = item.DocumentId,
    Validated = item.Status=="Validated"? 1: 0,
    Count = 1
}

减少:

from r in results
group r by new { r.UserId , r.DocumentId } into g
select new {
    UserId = g.Key.UserId,
    DocumentId = g.Key.DocumentId,
    Validated = g.Sum(d => d.Validated),
    Count = g.Sum(d => d.Count),
}

这个想法是尝试在索引中映射所有文档,并从用户链接到字段和工作项。

4

2 回答 2

3

一周后,我设法解决了这个问题。我采用了一种稍微不同(关系较少)的方法,这种方法很简单,而且看起来效果很好。以下是其他人遇到此类问题的详细信息:

我按 DocumentId 对 WorkItems 进行分组,并将 Validated 和 NonValidated 字段放入一个集合中。map reduce 的结果如下所示:

public class Result
{
    public string DocumentId { get; set; }
    public string[] ValidatedFields { get; set; }
    public string[] ReadyFields { get; set; }
}

地图函数如下所示:

Map = items => items.Select(i => new
{
    DocumentId = i.DocumentId,
    ValidatedFields = i.IsValidated ? new string[] { i.FieldId } : new string[0],
    ReadyFields = !i.IsValidated ? new string[] { i.FieldId } : new string[0]
});

减少

Reduce = result => result
    .GroupBy(i => i.DocumentId)
    .Select(g => new
    {
        DocumentId = g.Key,
        ValidatedFields = g.SelectMany(i => i.ValidatedFields),
        ReadyFields = g.SelectMany(i => i.ReadyFields)
    });

要查询索引,我现在使用以下表达式:

User user = session.Load<User>("users/1");
var result = session.Query<WorkItem, UserWorkItemIndex>()
    .As<UserWorkItemIndex.Result>()
    .Where(d => d.ValidatedFields.Any(f => f.In(user.AssignedFields)))
    .ToArray();

我唯一需要做的就是客户端只计算属于用户的字段。

该解决方案还有一个要点

于 2012-11-10T15:27:21.520 回答
0

首先,免责声明:我之前从未在真实系统中使用过 RavenDB,但我阅读了一些文章,观看了一些视频,并且非常喜欢它背后的想法。我认为这个问题是一个有趣的练习。因此,这种方法可能并不理想;欢迎评论和改进。

我的想法是必须在集合上创建一个索引WorkItems以包含这些字段:

  • DocumentId(因为这就是我们最后要分组的内容)
  • FieldId(因为这是我们将过滤的字段)
  • ValidatedCount(具有IsValidated= true 的记录数)
  • TotalCount

创建此索引后,我们可以使用.Where(x => x.FieldId.In(userFields))过滤器对其进行查询,并返回一组具有上述结构的结果。

为了得到最终结果,我们需要DocumentId对这些结果进行更多的分组。

我想出的代码是这样的:

索引定义

public class WorkItems_ValidationStatistics :
    AbstractIndexCreationTask<WorkItem, WorkItems_ValidationStatistics.ReduceResult>
{
    public class ReduceResult
    {
        public string DocumentId { get; set; }
        public string FieldId { get; set; }
        public int ValidatedCount { get; set; }
        public int TotalCount { get; set; }
    }

    public WorkItems_ValidationStatistics()
    {
        Map = workItems =>
              from workItem in workItems
              select new
                    {
                        workItem.DocumentId,
                        workItem.FieldId,
                        ValidatedCount = workItem.IsValidated ? 1 : 0,
                        TotalCount = 1
                    };

        Reduce = results =>
                 from result in results
                 group result by new { result.FieldId, result.DocumentId }
                     into g
                     select new
                        {
                            g.Key.DocumentId,
                            g.Key.FieldId,
                            ValidatedCount = g.Sum(x => x.ValidatedCount),
                            TotalCount = g.Sum(x => x.TotalCount)
                        };
    }
}

在数据库中创建索引的代码:

public void CreateIndex()
{
    using (var store = CreateDocumentStore())
    {
        IndexCreation.CreateIndexes(
            typeof(WorkItems_ValidationStatistics).Assembly, store);
    }
}

注意:或者,您可以直接在 RavenDB Management Studio 中创建索引

查询索引并进行最终聚合的代码:

public void GetWorkItemStatisticsGroupedByDocumentId()
{
    using (var store = CreateDocumentStore())
    using (var documentSession = store.OpenSession())
    {
        var userFields = new[] { "fields/11", "fields/13" };

        var items = documentSession
            .Query<WorkItems_ValidationStatistics.ReduceResult, WorkItems_ValidationStatistics>()
            .Where(x => x.FieldId.In(userFields))
            .ToList();

        var results = items
            .GroupBy(x => x.DocumentId)
            .Select(g => new
                {
                    DocumentId = g.Key,
                    ValidatedCount = g.Sum(x => x.ValidatedCount),
                    TotalCount = g.Sum(x => x.TotalCount)
                });

        foreach (var r in results)
        {
            Console.WriteLine("DocId={0}: validated: {1}/{2}", 
                r.DocumentId, r.ValidatedCount, r.TotalCount);
        }
    }
}
于 2012-11-06T16:45:00.440 回答