问题标签 [apache-storm-topology]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
120 浏览

apache-storm - 杀死拓扑名称中包含特殊字符的 Storm 拓扑

所以,碰巧我从他们的一个示例(storm-starter)中得到了一个 Storm 拓扑,部署名为-local. 现在,当我尝试使用它时,它并不太高兴,kill因为该名称被解释为参数。我试过用(双)引号等传递名称,但徒劳无功。还有其他方法吗?

0 投票
0 回答
574 浏览

apache-storm - Apache Storm 中的新 KafkaSpout 问题

我有一个基本拓扑,包括 kafka spout 和 kafka bolts 当提交我的拓扑时,我在 Storm UI 中收到此错误

无法获得 kafka 的偏移滞后。原因:org.apache.kafka.shaded.common.errors.InvalidTopicException: Topic '[enrich-topic]' 无效

我检查了丰富主题是否存在,没有问题

KafkaWriterBolt2是我的类扩展自 BaseRichBolt

0 投票
2 回答
526 浏览

apache-storm - Apache Storm:将流拆分为不同的螺栓

我制作风暴拓扑,我正在处理这种格式的字符串:“xxxx”,其中 x 是某个数字。我希望字符串流在 4 个螺栓之间平均分配。

问题是对于下面的代码,所有的螺栓都得到所有的元组,而不是发送 eack 元组到一个螺栓:

如您所见,我使用相同的螺栓但不同的构造器。谢谢!

0 投票
0 回答
2596 浏览

python - Windows中的Apache风暴流解析

我是apache风暴的新手。我正在尝试在windows 10 中运行 apachestorm + stream parse 。
所以我只是试着在下面做。(http://streamparse.readthedocs.io/en/master/quickstart.html

然后,在cmd中,

没关系。但

然后在cmd中有一个登录。

所以我将 sparse.py 第 71 行修改为“if not os.getenv('LEIN_ROOT'):”

这是一个日志。

所以我在 tmp.yaml 中用“wordcount”更改了拓扑名称。

我怎样才能解决这个问题?谁能帮我?
感谢您提前提供任何提示!

0 投票
1 回答
1608 浏览

java - 了解风暴拓扑可视化

我正在尝试使用 Apache Storm 1.0.2 来处理源自 Kafka Spout 的数据流。我试图使用 Storm UI 中的 Storm 拓扑可视化来了解管道的性能。

根据下面链接中提供的解释,我对可视化的理解是这样的:

  1. 螺栓(或喷口到螺栓)之间的线越粗,组件之间发送的流量就越多
  2. 如果颜色更接近红色,则螺栓/喷口的容量会更高。如果有高容量的组件,它们可能会成为管道中的瓶颈。

但是,我无法在可视化中找到有关组件大小(即 DAG 中实心圆的直径)的任何文档。我注意到的唯一模式是,通过减少螺栓的并行度,UI 中组件的大小增加了。是否有关于此功能的任何详细信息?

参考链接:

0 投票
1 回答
689 浏览

java - 查找在 Apache Storm 中运行的拓扑 jar 版本

我有一个使用打包 jar 开始运行的风暴拓扑。我正在尝试查找拓扑正在运行的 jar 版本。据我所知,Storm 只会显示正在运行的 Storm 版本,而不是正在运行的拓扑版本。

运行“storm version”命令只会给出storm running的版本,我在Storm UI的拓扑部分看不到任何指示拓扑版本的东西。

有什么方法可以让 Storm 报告这个,还是我最好设置一个属性文件?理想情况下,这将使用 pom.xml 版本或 git commit hash 自动完成。另一个我很满意的解决方案是让 Storm 报告用于启动拓扑的 jar 文件名。

0 投票
0 回答
519 浏览

java - 无法启动风暴应用程序。服务器 mk-worker 初始化时出错

我在集群上的风暴应用程序中不断出错。我有两个相同的应用程序,除了名称和特定变量外,配置完全相同。一个工作,一个不工作。这是日志:

我在 ubuntu vms 上运行storm应用程序,在storm.yaml文件中配置了2个zookeeper服务器,2个nimbus种子。storm.local.dir 是 /data/storm-local。

我做了以下解决但失败了:

  • 重启了几次。没运气。增加记忆力。
  • 将工人数量减少到 2 人(总共 12 人可用)。删除所有其他应用程序并尝试仅运行一个应用程序。仍然失败。
  • 确保 /data/storm-local 目录具有读/写文件的权限。
0 投票
1 回答
37 浏览

apache-storm - 如何在 Apache Storm 中根据名称获取正在运行的 StormId

如何根据Apache Storm 中的名称获取当前运行的Storm Id 。

0 投票
3 回答
1554 浏览

apache-storm - Apache Storm:为什么以及如何选择每个执行者的任务数?

根据官方文档

为 spout/bolt 创建多少个实例。一个任务在同一个 spout/bolt 的零个或多个其他任务的线程上运行。spout/bolt 的任务数量在拓扑的整个生命周期中始终相同,但 spout/bolt 的执行程序(线程)的数量会随时间而变化。这允许拓扑扩展到或多或少的资源,而无需重新部署拓扑或违反 Storm 的约束(例如确保相同值用于相同任务的字段分组)

我的问题是:

  1. 在什么情况下我会选择在一个 executor 中运行多个任务?
  2. 如果我确实在一个 executor 中使用了多个任务,我会在我的 spout 和我的 bolt 之间选择每个 executor 不同数量的任务可能是什么原因(例如每个 bolt executor 2 个任务,但每个 spout executor 只有 1 个任务)?
0 投票
1 回答
308 浏览

apache-storm - 在风暴集群上提交拓扑时出错

在主管的风暴集群上部署拓扑时出现以下错误。我无法找出确切的原因,因为主管能够找到拓扑但无法下载代码并执行。