4

我有这样的代码：

public bool Set(IEnumerable<WhiteForest.Common.Entities.Projections.RequestProjection> requests)
    {
        var documentSession = _documentStore.OpenSession();
        //{
        try
        {
            foreach (var request in requests)
            {
                documentSession.Store(request);
            }
            //requests.AsParallel().ForAll(x => documentSession.Store(x));
            documentSession.SaveChanges();
            documentSession.Dispose();
            return true;
        }
        catch (Exception e)
        {
            _log.LogDebug("Exception in RavenRequstRepository - Set. Exception is [{0}]", e.ToString());
            return false;
        }
        //}
    }

这段代码被多次调用。在我得到大约 50,000 个通过它的文档后，我得到了 OutOfMemoryException。知道为什么吗？也许过一段时间我需要声明一个新的 DocumentStore ？

谢谢你

**

  • 更新：

**

我最终使用 Batch/Patch API 来执行我需要的更新。您可以在此处查看讨论：https ://groups.google.com/d/topic/ravendb/3wRT9c8Y-YE/discussion

基本上因为我只需要更新我的对象上的 1 个属性，并且在考虑了关于将所有对象重新序列化回 JSON 的ayendes 评论之后，我做了这样的事情：

internal void Patch()
    {
        List<string> docIds = new List<string>() { "596548a7-61ef-4465-95bc-b651079f4888", "cbbca8d5-be45-4e0d-91cf-f4129e13e65e" };
        using (var session = _documentStore.OpenSession())
        {
            session.Advanced.DatabaseCommands.Batch(GenerateCommands(docIds));
        }
    }

    private List<ICommandData> GenerateCommands(List<string> docIds )
    {
        List<ICommandData> retList = new List<ICommandData>();

        foreach (var item in docIds)
        {
            retList.Add(new PatchCommandData()
            {
                Key = item,
                Patches = new[] { new  Raven.Abstractions.Data.PatchRequest () {
                Name = "Processed",
                Type = Raven.Abstractions.Data.PatchCommandType.Set,
                Value = new RavenJValue(true)
            }}});
        }

        return retList;
    }

希望这可以帮助 ...

非常感谢。

4

3 回答 3

4

我只是为我当前的项目做了这个。我将数据分块并将每个块保存在一个新会话中。这也可能对您有用。

请注意，此示例一次显示了 1024 个文档的分块，但在我们决定是否值得分块之前至少需要 2000 个。到目前为止，我的插入获得了最佳性能，块大小为 4096。我认为这是因为我的文档相对较小。

internal static void WriteObjectList<T>(List<T> objectList)
{
    int numberOfObjectsThatWarrantChunking = 2000;  // Don't bother chunking unless we have at least this many objects.

    if (objectList.Count < numberOfObjectsThatWarrantChunking)
    {
        // Just write them all at once.
        using (IDocumentSession ravenSession = GetRavenSession())
        {
            objectList.ForEach(x => ravenSession.Store(x));
            ravenSession.SaveChanges();
        }

        return;
    }

    int numberOfDocumentsPerSession = 1024;  // Chunk size

    List<List<T>> objectListInChunks = new List<List<T>>();

    for (int i = 0; i < objectList.Count; i += numberOfDocumentsPerSession)
    {
        objectListInChunks.Add(objectList.Skip(i).Take(numberOfDocumentsPerSession).ToList());
    }

    Parallel.ForEach(objectListInChunks, listOfObjects =>
    {
        using (IDocumentSession ravenSession = GetRavenSession())
        {
            listOfObjects.ForEach(x => ravenSession.Store(x));
            ravenSession.SaveChanges();
        }
    });
}

private static IDocumentSession GetRavenSession()
{
    return _ravenDatabase.OpenSession();
}
于 2012-04-05T16:27:07.623 回答
2

您是否想在一个电话中保存所有内容？DocumentSession 需要将您传递给它的所有对象转换为对服务器的单个请求。这意味着它可能会为写入服务器分配大量内存。通常我们建议您批量保存大约 1,024 件商品。

于 2012-04-05T16:17:04.610 回答
0

DocumentStore是一个一次性类，所以我通过在每个块之后处理实例来解决这个问题。我高度怀疑这是运行操作的最有效方式，但它会防止发生显着的内存开销。

我正在像这样运行一种“全部删除”操作。您可以看到在每个块之后using处理 theDocumentStore和IDocumentSessionobjects 的块。

static DocumentStore GetDataStore()
{
    DocumentStore ds = new DocumentStore
    {
        DefaultDatabase = "test",
        Url = "http://localhost:8080"
    };

    ds.Initialize();
    return ds;
}

static IDocumentSession GetDbInstance(DocumentStore ds)
{
    return ds.OpenSession();
}

static void Main(string[] args)
{
    do
    {
        using (var ds = GetDataStore())
        using (var db = GetDbInstance(ds))
        {
            //The `Take` operation will cap out at 1,024 by default, per Raven documentation
            var list = db.Query<MyClass>().Skip(deleteSum).Take(5000).ToList(); 
            deleteCount = list.Count;
            deleteSum += deleteCount;

            foreach (var item in list)
            {
                db.Delete(item);
            }
            db.SaveChanges();
            list.Clear();
        }
    } while (deleteCount > 0);
}
于 2013-10-30T15:05:31.223 回答