问题标签 [aws-dms]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
364 浏览

mysql - 我可以连接本地 sql server 数据库作为 AWS SCT 中的源吗?

我想将我的本地 sql server 数据库连接为 SCT 中的源,以将其转换为 Amazon RDS for MySQL。在我计划使用 DMS 进行迁移任务之后。

0 投票
1 回答
5526 浏览

amazon-web-services - AWS DMS 错误 - SQL Server 到 MySQL 的迁移

我在 AWS DMS 上不断收到此错误,来源:SQL Server

有人对我可能缺少的东西有什么建议吗?

0 投票
2 回答
935 浏览

amazon-web-services - 如何优化 AWS DMS MySql Aurora 到 Redshift 复制?

我一直在使用 AWS DMS 执行从 MySql Aurora 到 Redshift 的持续复制。但是,正在进行的复制会导致目标上持续 25-30% 的 CPU 负载。这是因为它会在 S3 上生成许多小文件并不停地加载/处理它们。Redshift 并不是真正为处理大量小任务而设计的。

为了优化,我已经做到了,该过程在每小时开始时开始,等到目标同步,然后停止。因此,它不是连续工作,而是在每小时开始时工作 5-8 分钟。即便如此,它仍然非常缓慢且未优化,因为它仍然需要处理数百个小型 s3 文件,而且时间跨度更短。

这可以进一步优化吗?有没有办法告诉 DMS 将这些更改缓冲更长的时间,而不是产生更少的大文件而不是许多小的 s3 文件?我们真的不介意更高的目标延迟。

Aurora 和 Redshift 之间传输的数据量相当小。每小时大约有 2 万次更改,我们使用的是 4 节点 dc1.large redshift 集群。它应该能够在几秒钟内处理那些 20K 的变化,而不是几分钟

0 投票
1 回答
957 浏览

postgresql - CDC 更改数据捕获开始时间 - Postgres 复制

我正在使用 AWS DMS 进行 Postgres-postgres 迁移。对于其他引擎的持续复制,有一个参数 CDC start time,我们可以在其中指定获取复制更改的开始时间,但不幸的是 postgres 不支持该参数。

默认情况下,我的假设是当您创建 CDC 任务时,它会利用 CDC 的当前开始时间。但是由于 postgres 没有能力过滤日志的开始时间,我假设它从 WAL 的开头开始。那正确吗?我的目标不是使用 DMS FULL LOAD 我只想使用 CDC 功能,但是在目标上恢复 pg_dump 之后,我将如何确保 CDC 没有遗漏任何记录?

谢谢!

0 投票
2 回答
1394 浏览

sql-server - 使用 AWS DMS 和 RDS 设置持续复制

我正在尝试使用 AWS Database Migration Service (DMS) 设置从 AWS RDS 托管的 SQL Server 2016 数据库到 EC2 托管的 SQL Server 2016 数据库的“持续复制”。当我创建一个 DMS 任务来执行此操作时,我收到一个错误:

2018-01-17T12:13:24 [SOURCE_CAPTURE]E: RetCode: SQL_ERROR SqlState: 42000 NativeError: 21089 消息:[Microsoft][ODBC Driver 13 for SQL Server][SQL Server]只有 sysadmin 固定服务器角色的成员才能执行这个操作。行:1 列:-1 [1022502] (ar_odbc_stmt.c:4406)

根据文档,用于连接的两个用户都必须是系统管理员。但是,无法使用 AWS RDS SQL Server 数据库执行此操作,但文档表明这是受支持的方案。我怎样才能让它工作?

0 投票
1 回答
18211 浏览

postgresql - 如何在 postgresql 中禁用外键约束

我正在使用 AWS Aurora Postgres 并使用 DMS 从 RDS postgres 迁移到 Aurora PG。为了执行 FULL LOAD,我想在所有对象上禁用外键约束和触发器。我能够禁用触发器,但找不到禁用约束的方法。

下面不起作用:

ALTER TABLE so_items 禁用约束 so_items_so_id_fkey;

它抛出:

错误:“CONSTRAINT”第 1 行或附近的语法错误:ALTER TABLE so_items DISABLE CONSTRAINT so_items_so_id_fkey; ^ SQL 状态:42601 字符:30

在参数组中设置 "session_replication_role" = "replica" 不起作用。虽然 DMS 任务尝试截断准备工作的表部分,但它仍然会因外键违规错误而失败。

请告知任何解决方法。

注意:我不能在下面做,因为在 RDS 中,即使使用主帐户,我也无权这样做:

错误:权限被拒绝:“RI_ConstraintTrigger_c_16520”是系统触发器 SQL 状态:42501

0 投票
1 回答
391 浏览

oracle - 使用 DMS 时的迁移问题。空列的垃圾数据不正确

在使用 AWS DMS servcie 从 MySQL 迁移到 ORAcle 时,在源端(MySQL 数据库实例),一些巨大的列(mediumtext)值对于表中 75% 的行是空的。而在目标 (Oracle) 中,它使用其他一些值 (Not Junk values) 迁移。对我来说,看起来列值在行之间被错误地复制了。

只要源端列中有空值,它就会复制一些其他数据。源端的一些具有空值的 clob 列的大约 75% 的表数据被错误地映射到 oracle 端的一些其他数据。我们使用 FULL LOB 模式和 10000Kb 作为块大小。

0 投票
1 回答
616 浏览

sql-server - 使用 AWS-DMS 从独立 SQL 服务器迁移到 AWS Redshift?

我有一个独立机器上托管的 SQL Server 2012。我想将它迁移到我的 AWS Redshift(已经存在的数据仓库)。

我的问题是是否可以通过 AWS 数据迁移服务?

我也对其他有效的迁移方法持开放态度。目前我正在执行以下步骤

  1. 在独立服务器中备份 SQL Server DB。
  2. 将其上传到 AWS-S3。
  3. 在 AWS-RDS(Sql-server)中从 S3 删除和恢复 Db

我希望这些数据出现在我的数据仓库中,即 AWS-Redshift

我在这里先向您的帮助表示感谢 !

0 投票
1 回答
1001 浏览

postgresql - 在 AWS DMS 上将视图从 Postgres 复制到 Postgres

我正在使用 AWS DMS 将数据从一个 Postgres 数据库迁移到另一个 Postgres 数据库。一切正常,除了一件事:我的目标数据库上没有复制视图。

我读过这不能在使用 DMS 的异构数据库(即从 Oracle 到 Postgres)之间完成,但我想当我们使用同一个数据库时,这是可能的。

有人知道如何使用 AWS DMS 将视图从 Postgres 复制到 Postgres?

0 投票
1 回答
346 浏览

amazon-web-services - 将本地 Postgresql 迁移到 AWS RDS

我致力于将本地 postgresql 9.5 服务器迁移到 RDS。基本上我出来的链条是这样的:

[pg master on-premise] -> [pg slave on-premise] -> [aws dms 复制实例] -> [aws rds postgresql]

注意:

  1. pg master 和 pg slave 之间的复制设置为“hot_standby”模式。
  2. 由于性能和高可用性问题,我尝试在 pg slave 上进行菊花链(或 postgresql 术语中的级联复制)连接。
  3. 从 pg slave on-prem 到 aws 复制实例,正如 AWS 文档所建议的那样,我必须将复制模式设置为“逻辑”。
  4. 将所有复制模式更改为“逻辑”应该是最后的考虑因素。

只是想知道这种半半(半热备用半逻辑)是否可行。如果可行,我需要特别注意什么样的东西。而且,如果这不起作用,你会建议什么替代方法。

非常感谢。