问题标签 [batch-insert]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
580 浏览

python - MongoDB与python批量操作插入更新

是否可以在混合插入和更新命令的 MongoDB(使用 python)中进行批量操作?更新的记录可以是在同一批次中插入的记录。

0 投票
0 回答
108 浏览

java - 使用 java 从 sqlserver 在 mongodb 中进行 Bulkinsert

在 C# 中,我们可以使用 insertBatch() 方法向 mongo 批量插入数据

我们可以在java中做同样的事情吗?我没有找到任何使用 mongo java 驱动程序的批量插入 api。我正在尝试从 sqlserver 批量获取数据并插入 mongo。它直接从 sqlserver 插入到 mongo,而不是通过在两者之间创建任何文档。

这就是我在java中尝试的。

0 投票
1 回答
137 浏览

php - Doctrine 批量插入使用 2GB 内存

我正在尝试通过 Doctrine Fixtures Bundle 使用 Symfony2 和 Doctrine 插入大约 20 万条记录。我正在使用刷新和清除,但最后脚本使用 1.8 GB 的 RAM。

这是将 SmartMeter 实体加载到数据库中的类:

在大约 5000 条记录上,我调用了 flush 和 clear,但它似乎没有释放内存。

是否有关于如何防止 Doctrine 在批处理任务中使用过多 RAM 的建议?

0 投票
1 回答
926 浏览

mysql - 尝试为 MySQL 和 Java 执行 rewriteBatchedStatements 时的空指针

我正在尝试以非常高的速率将批量插入到 mysql 中。我想尝试 rewriteBatchedStatements 配置选项,因为我读过它会显着影响性能。但是,当我添加选项时,出现以下异常:

这是我的插入代码:

这是我的 jdbc 网址:

我也使用 HikariCP 作为我的连接池。

编辑:更新 - 看起来问题与表中有一个 varbinary(10000) 列有关

0 投票
1 回答
518 浏览

php - 如果批处理中的一个查询在 codeigniter 中失败,则继续执行查询

我正在尝试使用 codeigniter 批量插入插入大约 3000 行,但问题是,如果批处理中的一行失败,它会停止执行其他行并打印该查询错误。

即使批处理中有失败的查询并记录失败的查询,是否可以继续执行?

我不想使用 $this>db->query 因为它比 $this->db->insert_batch(); 花费更多的时间和连接;此外,此插入操作是一个每 5 分钟运行一次的 cron 脚本,因此使用最快的方式更为可取,因为此插入操作是在事务数据库上进行的。

0 投票
1 回答
884 浏览

ruby-on-rails - ActiveRecord::StatementInvalid SQLite3::BusyException: 数据库在批量插入中被锁定

我正在使用以下方法进行批量插入

此方法效果很好,但最近才开始抛出以下错误:

此错误之后是我尝试执行的 sql insert 命令。当我将它直接放入 dbconsole 时,它​​工作正常。有什么建议么?

0 投票
0 回答
58 浏览

mysql - MySql - 带有 php 的存储过程

我有一个存储过程,可以帮助我在表中插入虚拟数据。

这是程序代码

当我尝试创建它时,我收到一个错误:

在此处输入图像描述

但是当我尝试这个时

而不是批量插入查询

它工作得非常好,如果我尝试将查询结果放入插入查询中,它的工作就像魅力一样。

帮我解决这个问题。

提前致谢。

0 投票
1 回答
1730 浏览

sql - Apache DBUtils - 为什么插入需要 resultsethandler?

我使用 Apache DBUtils 运行插入语句。但是,我不确定为什么我必须在这种情况下包含 ResultSetHandler:

insertbatch使用 ResultSetHandler的情况类似。我已经诉诸于使用batchcall 进行批量查询。谁能解释为什么我们需要结果集处理程序insert

0 投票
1 回答
1623 浏览

mysql - 如何在批量插入中自动增加 ID

我有以下要执行的查询

现在所有新条目在 TableB 中都有相同的 ID

难道我做错了什么。

PS 我无法更改列属性,我无法将其设置为 AUTO-INCREMENT,它需要具有默认值 NULL

0 投票
2 回答
1822 浏览

python - 实施批量插入以提高性能

我编写了以下代码来将数据插入到 MEMSql 中,它的语法几乎与 MySQL 中的相似。

字段名称不能硬编码,因为它们可能会根据我从另一端获得的数据而改变。无论如何,它是我在这里迭代的字典。由于这个单次插入非常慢,我需要将批量大小作为变量,形成查询语句并相应地插入它。所以批量大小为 2 的查询将是INSERT INTO tablename col1, col2 VALUES ('a', 'b'),('c','d')

请帮我在这里介绍一下。