问题标签 [apache-nifi]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
4692 浏览

backup - 有没有办法在 NiFi 中导入备份?

使用 NiFi v0.6.1 有没有办法导入备份/存档?

备份是指当您 POST /controller/archive使用 REST api 或“控制器设置”(工具栏按钮)然后“备份流程”(链接)调用时生成的文件。

我尝试解压缩备份并将其作为模板导入,但没有奏效。但是在将其与导出的模板文件进行比较后,格式是相当不同的。但也许有办法将其转换为模板?

目前我目前的工作是不选择顶级流程上的任何组件,然后选择“创建模板”;这将添加一个包含我所有组件的模板。然后我只是导出它。我的问题是通过 REST API 实现自动化有点棘手。我使用 Fiddler 来确定 UI 正在做什么,它首先生成一个包含所有组件(标签、处理器、连接等)的片段。然后它POST /nifi-api/contorller/templates使用片段 ID 调用创建模板 ()。所以模板调用很简单,但是为代码片段生成定义需要一些工作。

注意:一旦实现了以下功能请求,我假设我只会使用它:

https://cwiki.apache.org/confluence/display/NIFI/Configuration+Management+of+Flows

0 投票
1 回答
1171 浏览

regex - 如何在 Apache Nifi Process Property 中使用表达式语言获取所有值

我正在尝试创建一个 Apache Nifi 模型,该模型允许我从 Elasticsearch 读取所有数据并将其存储到文件中。我已经正确连接了所有内容,但我遇到的问题是 FetchElasticsearch 过程需要一个文档标识符(因为它应该),但我想获取索引中的每一个项目,而不仅仅是一个 ID 为 1 的文档。我知道 Nifi 和 process 属性支持表达式语言,所以我尝试简单地使用应该匹配所有字符的正则表达式

但是当我这样做时我会收到警告,因为该过程实际上会查找 * 的文字文档 ID,这当然不存在。以下是屏幕截图,希望它可以帮助理解我的问题。

尼菲流

FetchElasticsearch 进程属性

我正在搜索 localhost:9300/tweet_library/tweet/(regex expression) 所以我想要 tweet_library 中的所有文档。任何帮助表示赞赏,谢谢。

0 投票
1 回答
2109 浏览

json - Apache Nifi:将 SOAP 文件转换为 JSON

我对 Apache Nifi 相当陌生。我正在尝试将 SOAP 文件转换为 JSON。有没有简单的方法可以做到这一点,或者有可以教我的教程?SOAP 文件是指 SOAP Web 服务中使用的 xml 文件。谢谢

0 投票
4 回答
4279 浏览

windows - 在 Windows 上关闭 NiFi

是否有一种简单的编程方法可以在 Windows 上关闭 NiFi?“手动”方式有效,在命令窗口中运行并按 ctr-c 退出,但我正在尝试自动化测试环境。我可以在 linux 上使用 nifi.sh 脚本,我在谷歌搜索时看到了对关闭 bat 脚本的引用,但我使用的是 0.6.1,它不在那个版本中。

我使用 netstat 根据 API 端口号查找 PID,然后终止该进程。但似乎总是有两个进程,一个会重新启动另一个。所以我做了同样的事情,使用 Bootstrap 端口,用它来查找进程的 PID,然后也终止了该进程。但这并不总是可靠的。

0 投票
3 回答
3856 浏览

apache-nifi - 如何使用 Apache Nifi 创建新流程

如何使用 Apache Nifi 创建新流。只有一个流吗?

还有身份验证呢?不同的用户可以有不同的流量吗?

0 投票
1 回答
989 浏览

java - 从 Java 应用程序 POST 请求在 Apache NiFi 中记录 JSON 有效负载

我是 Apache NiFi 的新手,我开发了一个应用程序来通过 HTTP POST 请求将 JSON 数据发送到 NiFi 端点。

在 Apache NiFi 中,我有一个 HandleHTTPRequest 处理器连接到一个 PutFile 处理器,然后是一个 HandleHTTPResponse 处理器。我也尝试过使用 LogAttribute 处理器。NiFi Web 服务的响应代码和 HTTP 消息工作正常,但我正在尝试确保我的 JSON 有效负载被正确发送。在 HTTPRequest 处理程序中启用了 Post。然而,它生成的唯一文件是空白且大小为 0kb。有任何想法吗?

0 投票
1 回答
1398 浏览

apache-nifi - 使用外部文件配置 NiFi 处理器

我正在使用 NiFi 链接多个 API 调用。我会通过在外部配置文件(例如 JSON,甚至nifi.properties文件)中设置 API 密钥/端点来使我的流程更具可配置性。

如何在处理器的属性中使用此配置文件中的信息?

先感谢您!

0 投票
2 回答
1315 浏览

apache-nifi - ExecuteStreamCommand 在执行 Shell 脚本(执行 Hive)时挂起

我有一个获取文件、提取文本并运行 shell 脚本的流程,该脚本又运行 hive 脚本。(我只是从文件中提取日期并将其作为 -hivevar 传递)。我的 shell 脚本看起来像这样:

蜂巢脚本完成并将数据插入到我的表中,但 ExecuteStreamCommand 无限期地保持运行(1 停留在顶角),我必须重新启动 nifi ..(有更好的方法来处理这个问题吗?)。

我注意到了一些事情:

  • 如果我减小查询的大小(我的配置单元查询是多个联合),则 ExecuteStreamCommand 不会挂起。
  • 当作业挂起时,资源管理器上的 AM 会保持运行相当长的一段时间 ~ 10 分钟。有点像当您使用 1 个容器创建 Hive CLI Tez 会话时。当我减小查询大小并且作业没有挂起时,AM 会立即进入完成状态。- 通过命令行手动运行完整查询或脚本工作正常。
  • 行为不一致。有时它不会挂起,有时它会......(大多数时候它会......)

有任何想法吗?在 app.log 或应用程序日志中找不到任何内容

0 投票
1 回答
1603 浏览

hadoop - 如何使用 apache NiFi 将 csv 或 JSON 文件存储到配置单元?

我注意到 nifi 中没有可用的处理器可以直接将文件存储到 hive 中。是否有任何处理器组合可以帮助解决这个问题,或者是否有任何可用的模板可以做到这一点?

谢谢。

0 投票
2 回答
645 浏览

api - 什么是在 nifi 中解析传入 url 的好方法?

使用 HandleHttpRequest 时,我想设置一个结构以通过相同的处理程序对不同的对象进行操作:

/api/foo/add/1/2..

我如何轻松地将其解析为

?