问题标签 [azure-data-factory]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
3 回答
1111 浏览

azure-data-factory - 有没有办法暂停数据集的特定执行时间片?

想知道我们是否可以暂停执行切片?我知道我们可以暂停管道,但是该管道的所有执行切片都将暂停。有没有办法(UI 或编程)只暂停给定管道的特定切片?

0 投票
1 回答
1602 浏览

azure-data-factory - 10 的“并发”限制是否保证 10 个并行切片运行?

在 ADF 中,我们可以将并发限制定义为最大 10。因此,假设我们将其设置为 10,并且切片正在等待运行(不等待数据集依赖等),是否始终保证在任何给定时间 10 个切片将并行运行。我注意到即使将其设置为 10,有时它们中的几个仍在进行中,或者不确定 UI 是否无法正确显示。是否受制于可用资源?但最后是云,实际上有无限的资源。有没有人注意到这样的事情?

0 投票
2 回答
4816 浏览

azure - 如何从 ADF 中移除管道?

每当我尝试从 ADF 中删除任何管道时,都会收到以下错误消息:

谁能指导我如何使用 Azure 门户删除不需要的管道?

0 投票
1 回答
172 浏览

azure-storage - 使用数据工厂将存储帐户表传输到数据湖

我正在尝试使用数据工厂将表从存储帐户传输到数据湖。微软声称可以“将任意大小和格式的文件存储到数据湖中”。我使用在线向导并尝试创建管道。管道被创建,但我总是收到一条错误消息:

复制活动遇到用户错误:ErrorCode=UserErrorTabularCopyBehaviorNotSupported,'Type=Microsoft.DataTransfer.Common.Shared.HybridDeliveryException,Message=如果源是表格数据源则不支持 CopyBehavior 属性。,Source=Microsoft.DataTransfer.ClientLibrary,'。

有什么建议可以使用数据工厂将数据从存储帐户表传输到数据湖吗?

谢谢。

0 投票
1 回答
773 浏览

powershell - 是否可以通过 powershell '更新' ADF 管道属性

我想更新许多映射的 ADF 管道(例如并发级别)的一些参数。我无法找到任何能够通过 powershell 执行此操作的 cmdlet。我知道我可以删除现有管道并创建新管道,但这将开始重新处理该管道活动期间的所有就绪切片,这是我不想要的。因为在这种情况下,它将涉及计算现有管道处理切片的时间点。然后这只是暂时的,在某个阶段我将再次恢复设置。我只想让管道更改其属性之一。通过 UI 手动执行此操作既缓慢又乏味。我猜没有办法解决这个问题,但如果你知道,请告诉我。

0 投票
1 回答
48 浏览

azure-data-factory - 管道中的活动是否可以将源数据集驻留在不同的数据工厂中?

通常,源数据集存在于同一个数据工厂中。活动是否有可能引用实际驻留在不同数据工厂中的输入数据集?

0 投票
2 回答
583 浏览

azure-data-factory - 通过 Visual Studio 数据工厂项目授权 Data Lake 链接服务

我有一个 Azure Data Factory Visual Studio 项目,我在其中使用 Azure Data Lake 链接服务。当我创建它们时,我必须首先授权它们。但是给定的授权会在特定时间段(以天为单位)后过期。

我找不到重新授权链接服务的选项。我尝试从门户重新授权另一个链接服务,并将该授权用于在 VS 中创建的链接服务,但这不起作用。

我必须删除并重新创建链接服务以获得新的授权。

是否缺少此功能,或者是否有其他方法可以在 VS 中获得数据湖链接服务的新授权?

0 投票
2 回答
4503 浏览

azure - Azure:在手动创建的管道中等待数据集依赖项

我在数据工厂中创建了一些简单的管道,其中包含不同类型的链接服务和数据集。手动,通过编写 jsons. 但没有一个有效。

向导创建的管道正常工作并处于就绪状态。所有手动管道都有状态等待:数据集依赖项。这是什么意思,我该如何解决?

0 投票
1 回答
680 浏览

azure-data-factory - 如何回填 Azure DataFactory 管道,然后将其转换为运行计划?

我有大量包含需要复制到 azure sql 表中的日志数据的 blob,并且会定期到达更多 blob。Blob 以格式命名[ORIGINALTARFILENAME].tar.gz.log

如何使用数据工厂,以便它在不超时的情况下执行初始回填,然后将相同的管道转换为定期运行,这样就不会对 blob 进行两次处理?

本质上是不是:

  1. 创建一次性流程
  2. VS中打开进程
  3. 修改 json 以包含某种时间表
  4. 部署更改
0 投票
1 回答
81 浏览

azure-data-factory - ADF 是否提供使用“动态”链接服务器的功能?

有没有办法创建动态链接服务器?通常我们声明链接服务器并将其指向一些固定资源(计算或存储)。如果基于某种形式的某个变量的值,我希望能够动态地指向任何资源怎么办。它的价值不必提前知道。

举个例子,假设我有 N 个不同的 HDInsight 集群,我的管道应该能够根据一些参数指向其中的任何一个(只要 ADF 有一些方案,这里什么参数并不重要)。在这里,在声明链接服务器时,我将简单地指定变量名。