问题标签 [azure-data-factory-pipeline]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
51 浏览

json - 将活动数据工厂 V2 集合引用复制到字符串类型

我正在尝试使用 Data Factory V2 将 Json 文件加载到 SQL Server。需要将类型数组的集合引用保存到 SQL Server 中的字符串。在下图中,“字段”对象由多个字段组成。我需要将对象“关键字”作为字符串类型存储在映射到单个列的 SQL Server DB 中。我无法将“关键字”或“字段”映射到列

在此处输入图像描述

0 投票
2 回答
54 浏览

azure-data-factory-2 - Azure ADF:我可以手动设置(或以其他方式强制)管道的最终“状态”为“成功”吗?

据我所知,如果任何活动失败,管道就会“失败”。

这使得故意使其他成功的管道失败变得非常容易;只是有条件地执行一个虚假的网络活动:D

但相反的呢?

假设我的一个活动“失败”了,我认为这不是问题,并且我已经在我的条件流程中说明了这一点。回退路径已顺利执行,无需进一步干预。管道完成,但它被标记为“失败”:(

我能做些什么来“覆盖”中间活动的失败,并强制整个管道报告成功吗?

0 投票
1 回答
141 浏览

azure - 在datafactory中处理excel表

我正在尝试通过 datafactory 处理包含多个工作表的单个 excel 文件,但我不确定如何处理所有工作表?我已将此字段设置为数据集中的参数化,但不确定如何为其提供工作表名称 在此处输入图像描述

0 投票
1 回答
100 浏览

sql-server - Azure 数据工厂管道 - 从本地 SQL Server 和 Dynamics CRM 复制数据

我需要将数据从本地 SQL Server 传输到 CDS (Dynamics 365)。如果要传输的所有数据都已存储在 SQL Server 中,则这可以通过在 Azure 数据工厂中使用 CopyData 活动来实现。不幸的是,这不是我的情况。我的要求的步骤是:

  • 创建 CRM 记录(父记录);
  • 然后必须将此记录的 GUID 包含到 CopyData 活动的源数据中。事实上,所有传输到 CRM 的数据(通过 CopyData 活动)都需要是之前父记录的子记录。

请问如何在 Azure 数据工厂中完成此数据流?

最好的问候, Radu Antonache

0 投票
1 回答
176 浏览

azure - 有没有办法通过命令行导出 ADF 内容?

我是 ADF 的新手,我看到有一个按钮可以导出文件。有没有办法通过命令行导出它们?来自任何分支,类似于 UI 功能?

在此处输入图像描述

0 投票
2 回答
1454 浏览

azure - Azure 数据工厂动态内容获取月份名称

我想每个月通过 Azure 数据工厂从网站中提取数据。有没有办法通过动态内容功能更改每个月的 URL 与月份名称?

{{静态 URL}}/TestFile_October_2020.zip

{{静态 URL}}/TestFile_November_2019.zip

{{静态 URL}}/TestFile_December_2020.zip

0 投票
1 回答
49 浏览

azure - 我可以在 ADF 管道中缓存连接秘密,而不是从每个活动中都命中 AKV

目前我正在使用参数化链接服务连接到 AKV,然后检索连接密码。但是对于许多管道和活动,我们在 AKV 方面面临着节流问题。我们希望限制 AKV 的热点数量,并将检索到的连接缓存/存储在 ADF 管道中的某处,但我没有看到任何这样做的选项。请指教。

0 投票
1 回答
1475 浏览

azure - 从 ADF 管道连接到 ADLS 位置时使用服务主体获取访问令牌失败

我正在尝试使用 Azure DevOps CI/CD 为 ADF 部署 ARM 模板

部署成功,但在尝试测试链接服务时,我无法成功连接。

链接服务是在同一订阅下连接到 ADLS 位置,身份验证方法是使用服务主体并使用密钥库秘密名称来获取连接。

密钥保管库也在同一个订阅和资源组下。

尝试将 LS 连接到 ADLS 位置时,出现以下错误。

用于连接集群的链接服务工作正常,连接机密存储在同一个密钥库中。

我很困惑同一个密钥库中的一些秘密(用于集群连接)正在工作,而少数(用于 adls 连接)不起作用。

在 Azure 活动目录中检查了相同主体 ID 下的应用程序,机密有效期至 2022 年。 在此处输入图像描述

关于错误的根本原因以及如何解决问题的任何想法?

0 投票
1 回答
146 浏览

azure - 如何使用 Azure 数据工厂在 2 个 SQL 服务器之间迁移存储过程?

我需要编写 ADF 管道以将所有表和存储过程从一个 Azure SQL 数据库完全迁移到另一个。我有一个带有 foreach 和复制活动的管道来复制所有表,并希望这样做以将所有存储过程迁移到新数据库。如何复制存储过程?

任何帮助表示赞赏。谢谢你。

0 投票
1 回答
30 浏览

azure-data-factory - 从 azure 获取活动数据

我们正在使用 ADF V2 我们正在运行启动其他管道的“主”管道。在监控选项卡中,我可以看到每个管道运行的活动数量等。

在 Azure 本身的成本分析中,我们只看到每个数据工厂的细分,低于该级别的任何内容对我们来说都是不可见的。我们需要知道每个“主”管道的成本是多少。

有没有办法按照“主”管道对这些信息进行分组?我们可以下载这些信息吗?

或者我们应该创建多个数据工厂,以便每个数据工厂只有一个“主”管道?