问题标签 [apache-apex]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
80 浏览

apache-kafka - 将输入运算符动态添加到正在运行的 Apache Apex 应用程序

是否可以在正在运行的 Apex 应用程序中为不同的源添加输入运算符?例如:在生产环境中,我正在运行 Apex 应用程序以从输入源读取文本文件,并且我想将 Kafka 源及其输入运算符添加到同一个 DAG。

0 投票
0 回答
67 浏览

java - 运行 Apache Apex 应用程序时,CouchbasePOJOSetOperator 导致启动问题

我有一个基本的 Apex 流,其中一个 Kafka 输入运算符输入到 Couchbase 集合运算符中。Kafka 双方工作正常,并通过移除沙发操作员证明了这一点。我曾尝试切换 Malhar 库的版本,看看它是否在最新版本中被破坏。

我也在使用 Apex 的 DataTorrent 风格。

当我添加沙发操作员时,我得到以下异常

这是相关的应用程序代码:

0 投票
2 回答
110 浏览

java - IBM Websphere MQ 到 Apache Apex Operator Stream?

我一直在广泛搜索 INTERNET,以寻找一种在 Apache Apex 中使用 web-sphere MQ 将 MQ 消息流式传输到 DAG 的方法。但是,似乎没有关于此事的 IBM 文档。

我知道它可能类似于 ActiveMQ,我可能只需要传入 websphere jar,但是我不知道从哪里开始。

0 投票
3 回答
115 浏览

apache-spark - 需要架构提示:数据复制到云端+数据清洗

我需要将客户数据从多个本地数据库同步到云中。在第二步中,那里的客户数据需要进行一些清理以删除(不同类型的)重复项。基于这些清理过的数据,我需要进行一些数据分析。

为了实现这个目标,我正在寻找可以使用的开源框架或云解决方案。我查看了 Apache Apex 和 Apache Kafka,但我不确定这些是否是正确的解决方案。

你能告诉我你会使用哪些框架来完成这样的任务吗?

0 投票
1 回答
2443 浏览

apache-flink - Apache Apex 与 Apache Flink

由于两者都是一次处理事件的流式框架,这两种技术/流式框架之间的核心架构差异是什么?

此外,有哪些特定用例比另一种更合适?

0 投票
1 回答
261 浏览

docker - 在 docker RTS 沙箱中使用 log4j 登录 Apache Apex

我想了解如何在使用官方的 Apache Apex 中使用 log4j 查看应用程序日志RTS Test Sandbox in docker。更具体地说,我想知道 Apex 在容器内存储应用程序特定日志文件的位置。

我正在运行最新的官方 docker 映像,如下所述:https ://hub.docker.com/r/datatorrent/rts/

使用dtManagehttp://localhost:9090/上运行,我成功上传了我的应用程序并启动了它。在Monitor选项卡中,我可以看到我的操作员正在接收和发送元组。当我单击蓝色按钮AM logs时,它会显示 3 个日志文件的下拉列表,即:

  • AppMaster.sdterr
  • AppMaster.stdout
  • 顶点日志

当我打开并搜索所有 3 个文件的日志时,我可以看到很多来自 apex 的日志,但没有打印我的自定义应用程序日志。我的日志记录代码如下所示:

本地模式下运行应用程序时,我的所有日​​志都在控制台中可见。

在 properties.xml 中,我还启用了完整调试:

有人可以帮我吗?

0 投票
1 回答
73 浏览

maven - 包 org.apache.apex.malhar.lib 不存在

我正在尝试执行一个顶点应用程序,该应用程序由一个使用 malhar 库生成随机字符串的运算符组成。即使我在我的 pom.xml 文件中包含了 malhar-library 依赖项,我在 mvn clean package -DSkipTests 命令上收到以下错误

包 org.apache.apex.malhar.lib 不存在

0 投票
0 回答
1746 浏览

apache - 未能执行目标 org.apache.maven.plugins:maven-resources

我正在工作目录下的 apex-core 文件夹中执行 mvn clean install -DskipTests -X 命令来运行 apache apex 应用程序。但是有一个构建错误说:

无法在项目 apex-app-archetype 上执行目标 org.apache.maven.plugins:maven-resources-plugin:2.7:resources (default-resources):无法创建资源输出目录:/home/abhinay/work/apex-core /目标/类。

工作文件夹在我家,所以我不认为这是权限问题。我还尝试在 pom.xml 中添加资源 outputDirectory 来说明目标/类,但它不允许标记。

0 投票
1 回答
55 浏览

java - 窗口 ID 在 DTconsole 中达到 59 后重置为 0

我目前正在研究 apache 顶点。我的应用程序在达到窗口 ID 59 后重置并从 0 重新启动。我收到一条错误消息,指出只有 1 个数据节点在运行,并且在此操作中不排除任何节点

0 投票
1 回答
120 浏览

apache-apex - apache apex 是否有一些 Web UI

我对 Apache Apex 平台很陌生。它有一些网络用户界面吗?我能够运行 docker 沙箱和一些示例应用程序。尽管如此,纱线跟踪 url 指向 404 页面。例如http://localhost:8088/proxy/application_1527541640016_0001

抱歉,收到错误 404

我已经发现这个代理后面有一些休息端点。例如 http://localhost:8088/proxy/application_1527541640016_0001/ws/v2/stram/logicalPlan

{“运营商”:[{“名称”:“控制台”,“属性”:/.../

但是,我找不到任何具有应用程序状态的人类可读的 webui。它存在吗?