问题标签 [batch-insert]

我正在尝试将 java 批处理插入器用于 neo4j 数据库，但收到以下错误消息：

Nodes6.csv 肯定存在，所以这......令人困惑。

Spring 新手，我正在尝试将 aList<Map<String, Object>>插入表中。到目前为止，我一直在使用SqlParameterSource批量更新，当向他们提供 java bean 时它工作得很好。像这样的东西：

但是，我尝试了使用映射列表代替 bean 的相同技术，但它失败了（这是正确的）。

上述代码失败，出现以下异常：

它失败了，因为它认为列表是一批豆子，我猜。我找不到在 Spring 中使用地图列表和使用NamedParameterJDBCTemplate. 请指教。

我正在尝试使用 java 在 neo4j 中批量插入数据。我找到了 BatchInserter 类，但它已被删除。有没有人有别的想法？谢谢！

在 cassandra 列族中插入多行的最有效方法是什么。是否可以在一次通话中做到这一点。

现在我的方法是添加多列然后执行。在一次通话中，我坚持了一行。我正在寻找策略，以便我可以进行批量插入。

我有大量数据，我想一次将它们插入数据库，我使用准备好的语句和批量插入，但它需要15 seconds。pstmt.executeBatch()我正在寻找最好的结果（大约5 seconds），我怎样才能实现我的目标？

自动提交被禁用。

插入语句数：100000 条语句。

我有一个Batch Inserter在 中构建数据模型Neo4j，但在节点之间创建时出现错误relationship，不是所有节点，relationships而是其中一些节点。

这是一个例外：

它被扔在那一行：

任何帮助将不胜感激..

这是堆栈跟踪

我有大量数据，想在 Neo4j 中创建一个模型来表示这些数据。

这将是大约300 万个节点和超过30 亿个关系。使用Batch Inserter进行构建需要很长时间才能导入数据然后创建节点和关系。

问题是：我可以将巨大的模型分成两个单独的模型，然后运行一个同时访问这两个模型的密码查询吗？如果是，我该怎么做？

我正在尝试批量插入大约 700 个浮点数。我正在使用的方法如下，以及内容提供者的 bulkInsert。问题是，当我将所有浮点值放入 ContentValues 时，什么也没有发生。将这些浮点值插入 ContentValues 对象的更好方法是什么？

我有一个自定义 CodeIgniter 库，我需要在其中运行一些数据库操作。

为了访问数据库，我执行了这个命令，这是我在 StackOverflow 上学到的：

我知道它正在工作，因为此命令有效：

但是，insert_batch根本不起作用。没有返回 FALSE，没有错误……没什么。它只是死了。

*编辑：事实证明我的 $product_id 没有通过外键约束，导致 batch_insert 失败。*

第二个 error_log 在失败后永远不会运行。剧本就这样死了。

那么我怎样才能让 insert_batch 正确地返回一个 FALSE、一个错误或其他东西，而不是完全失败呢？

*更新：我也尝试将其放入 try/catch 块中，但没有成功。如果它未能通过外键约束，它将中止我的整个脚本。我目前认为 insert_batch 是一个写得不好的函数*

谢谢！

我需要通过 REST API 的 Batch 端点将大量具有它们之间关系的节点插入到 Neo4j 中，大约 5k 记录/秒（仍在增加）。

这将是 24x7 连续插入。每条记录可能只需要创建一个节点，但其他记录可能需要创建两个节点和一个关系。

我可以通过更改程序或修改 Neo4j 的设置来提高插入的性能吗？

到目前为止我的进展：

1.我用Neo4j测试了一段时间，但无法得到我需要的性能

测试服务器盒：24核+32GB RAM

Neo4j 2.0.0-M06 作为独立服务安装。

在同一台服务器上运行我的 Java 应用程序。（Neo4j 和 Java 应用程序将来需要在自己的服务器上运行，因此不能使用嵌入式模式）

REST API 端点：/db/data/batch（目标：/cypher）

使用模式索引、约束、MERGE、CREATE UNIQUE。

2.我的架构：

3. 我的密码查询和 JSON 请求

3.1。当一条记录需要创建单个节点时，作业描述如下所示

3.2. 当一条记录需要创建两个具有一种关系的节点时，作业描述如下所示

3.3. 我通常每批发送 100 个职位描述（混合 3.1 和 3.2），大约需要 150~250 毫秒才能完成。

4.性能问题

4.1。并发：

/db/data/batch（目标：/cypher）似乎不是线程安全的，使用两个或多个并发线程进行测试，这些线程在几秒~几分钟内导致 Neo4j 服务器停机。

4.2. 带有约束的 MERGE 并不总是有效。

当使用单个查询创建两个节点和一个关系时（上面 3.2. 中提到过），它有时就像一个魅力；但它有时会因 CypherExecutionException 而失败，并说其中一个节点 xxxx 已经存在，标签为 aaaa 和属性 "bbbbb"=[ccccc]; 据我了解， MERGE 不是假设返回任何异常，而是返回节点（如果它已经存在）。

由于异常，整个批次将失败并回滚，这会影响我的插入率。

我在 GitHub 中针对这个问题打开了一个问题，https://github.com/neo4j/neo4j/issues/1428

4.3. 具有约束的 CREATE UNIQUE 并不总是适用于关系创建。

在同一个 github 问题中也提到了这一点。

4.4. 表现：

实际上，在我使用 cypher 批处理之前，我已经尝试使用 get_or_create (/db/data/index/node/Post?uniqueness=get_or_create & /db/data/index/relationship/XXXXX?uniqueness=get_or_create) 进行遗留索引

由于那些遗留索引端点的性质（它们返回索引中数据的位置，而不是实际数据存储中数据的位置），所以我不能在批处理中使用它们（需要在同一批处理中较早创建的引用节点的功能)

我知道我可以启用 auto_indexing，并直接处理数据存储而不是旧索引，但他们从 2.0.0 开始提到，建议使用模式索引而不是旧索引，所以我决定切换到批处理 + 密码 + 模式索引方法。

但是，使用批处理 + 密码，我每秒只能获得大约 200 个工作描述的插入率，如果带有约束的 MERGE 始终有效，它会高得多，比如说大约 600~800/s，但它仍然远低于 5k /秒。我还尝试了没有任何约束的模式索引，它最终在插入率方面的性能更低。