问题标签 [spring-xd]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
568 浏览

spring-batch - 配置 spring-xd 以使用 oracle 作为作业存储库

我想用我环境中已有的 Oracle(11g) 运行 spring xd。目前我首先关心的是作业 UI(我的数据库有由 spring-batch 执行的作业执行的现有数据,我只想显示这些执行的详细信息)。

我正在使用spring-xd-1.0.0.M5。我按照参考指南中的说明进行操作,然后更改application.yml为以下内容:

我还修改batch-jdbc.properties了与上述类似的数据库配置。

然而,当我开始xd-singlnode.bat(或任何一个xd-admin.bat)时,它似乎忽略了我的 oracle 配置并仍然使用默认的hsqldb。我究竟做错了什么?

谢谢

0 投票
1 回答
309 浏览

reactive-programming - 流 | 处理器和线程模型

我想知道 spring-xd 如何处理流中的处理器。我真正想知道的是处理器是否阻塞代码,或者它们与反应器(https://github.com/reactor/reactor/wiki/Processor)如何处理处理器有关。

如果我需要执行昂贵的阻塞操作(也就是调用外部系统),最好的方法是什么?我很想为此使用反应器或任何其他反应式框架,但是如何在 XD 管道架构中这样做呢?

问候

0 投票
1 回答
1608 浏览

spring-xd - 如何仅使用 java config 在 spring-xd 中创建作业

有没有使用纯java配置(没有xml)的spring xd的例子。我创建了一个简单的tasklet,将其放入相同的(whojob.jar)并将其放入lib 文件夹中。xml配置如下。我把它放在一个名为 whojob 的文件中,该文件位于 modules/job 文件夹中,并且与我的 whojob.jar 一起受到影响。当我尝试创建工作时:- (:>job create --name mywhojob --definition "whojob") 我收到错误: 原因:org.springframework.beans.factory.BeanCreationException:创建名为 'org 的 bean 时出错.springframework.integration.config.TransformerFactoryBean#0':无法创建 [org.springframework.xd.dirt.plugins.job.JobLaunchRequestTransformer] 类型的内部 bean 'org.springframework.xd.dirt.plugins.job.JobLaunchRequestTransformer#0'同时设置bean属性'targetObject';嵌套异常是 org.springframework.beans。factory.BeanCreationException:在类路径资源 [META-INF/spring-xd/plugins/job/job-module-beans. xml]:在设置构造函数参数时无法解析对 bean 'jobFactoryBean' 的引用;嵌套异常是 org.springframework.beans.factory.BeanCreationException:创建名为“jobFactoryBean”的 bean 时出错:FactoryBean 在创建对象时抛出异常;嵌套异常是 java.lang.IllegalStateException: No Batch Job 在注册表中为提供的键“mywhojob.job”找到。我的xml配置如下。如果可能的话,我想要一个纯 Java 解决方案。谢谢 在类路径资源 [META-INF/spring-xd/plugins/job/job-module-beans.xml] 中定义:在设置构造函数参数时无法解析对 bean 'jobFactoryBean' 的引用;嵌套异常是 org.springframework.beans.factory.BeanCreationException:创建名为“jobFactoryBean”的 bean 时出错:FactoryBean 在创建对象时抛出异常;嵌套异常是 java.lang.IllegalStateException: No Batch Job 在注册表中为提供的键“mywhojob.job”找到。我的xml配置如下。如果可能的话,我想要一个纯 Java 解决方案。谢谢 在类路径资源 [META-INF/spring-xd/plugins/job/job-module-beans.xml] 中定义:在设置构造函数参数时无法解析对 bean 'jobFactoryBean' 的引用;嵌套异常是 org.springframework.beans.factory.BeanCreationException:创建名为“jobFactoryBean”的 bean 时出错:FactoryBean 在创建对象时抛出异常;嵌套异常是 java.lang.IllegalStateException: No Batch Job 在注册表中为提供的键“mywhojob.job”找到。我的xml配置如下。如果可能的话,我想要一个纯 Java 解决方案。谢谢 创建名为“jobFactoryBean”的 bean 时出错:FactoryBean 在创建对象时抛出异常;嵌套异常是 java.lang.IllegalStateException: No Batch Job 在注册表中为提供的键“mywhojob.job”找到。我的xml配置如下。如果可能的话,我想要一个纯 Java 解决方案。谢谢 创建名为“jobFactoryBean”的 bean 时出错:FactoryBean 在创建对象时抛出异常;嵌套异常是 java.lang.IllegalStateException: No Batch Job 在注册表中为提供的键“mywhojob.job”找到。我的xml配置如下。如果可能的话,我想要一个纯 Java 解决方案。谢谢

0 投票
1 回答
719 浏览

spring-xd - 为什么我的 spring.datasource 配置没有按预期被拾取

我有一个批处理作业,它在独立模式下运行得非常好。我将其转换为 spring xd 批处理作业。我正在使用 spring xd 版本 1.0.0.M5。我面临的一些问题:

(i) 我不想使用 hsqldb 作为我的 spring.datasource。我想切换到mysql。为此,我更新了 xd-config.yml 文件以反映相同的内容。那没起效。我在我的作业配置文件夹中添加了一个片段(application.yml),其中相关的数据源信息不起作用。我在命令行设置了spring.datasource相关的环境变量。有用。问:有没有办法选择 mysql 作为配置文件,以便从 application.yml 片段或 xd-config.yml 片段中选择相关元数据,而无需手动设置环境变量?

0 投票
1 回答
1701 浏览

java - 如何创建一个 Spring-XD 处理器模块来过滤消息到输出通道

有很多关于如何在 java 中编写转换器等的示例,但没有关于过滤器(脚本类型过滤器除外,但我想使用 java 方法)。

我想创建一个自定义 java 过滤器来过滤从源到接收器的消息的有效负载。

过滤器的例子都是指一个表达式。

(如何)我可以告诉上下文执行指定类中的java方法作为表达式吗?

0 投票
1 回答
225 浏览

hadoop - Spring XD 流仅创建空的 .tmp 文件

我正在尝试让 Spring-XD 与 Hortonworks Sandbox VM 一起使用。一切都很顺利,直到第一次,测试流:

文件保留为 .tmp 扩展名并且它们是空的。

在 XD 管理控制台上,我可以看到错误:

只能复制到 0 个节点而不是 1 个

有什么问题?

0 投票
2 回答
610 浏览

hadoop - spring XD rabbit 源模块处理消息失败,第一条消息保持未确认

我正在尝试简单的 spring XD 应用程序在 HDFS 中加载日志事件。spring-ampq/rabbit log4j appender我已经使用(类)配置了目标应用程序,org.springframework.amqp.rabbit.log4j.AmqpAppender以将日志消息泵送到预先配置的交换器。我设置了以下流以从 HDFS 中提取这些消息并将它们推送到 HDFS,其中 soruce 和 sink 模块都是现成的 XD 模块,

流定义,

创建并部署了新的流“demoQ1”

AMQP Appender 正在发布要交换的消息并将其路由到 demoQ1 队列,其中 rabbit 源正在接收第一条消息然后卡住,因为它不确认消息。可能是什么原因?

0 投票
1 回答
452 浏览

spring - spring xd流定义动态参数

我们需要使用 HDFS sink 在 HDFS 中存储一些数据。创建流定义时,我可以使用“目录”属性来指定要保存文件的 hdfs 目录。但是,在我们的用例中,我们希望目录是基于时间戳的动态目录。我在想是否有可能在 HDFS 接收器的目录属性中使用一些 SpEL 来从标头中提取时间戳?

谢谢!!

0 投票
1 回答
2083 浏览

spring-xd - Spring-XD 如何处理作业执行

我无法从文档中获取信息。谁能告诉我 Spring-XD 是如何执行工作的?它是否将作业分配给某个容器,并且该作业是否仅在其部署到的容器上执行,还是每个作业执行都分配给另一个容器?我可以以某种方式控制某个作业可以并行执行(使用不同的参数)而其他作业不能吗?

谢谢!彼得

0 投票
3 回答
1146 浏览

java - 使用 Spring-XD 将数据加载到 Hadoop 2.2

我正在尝试从多个来源创建数据流并将其加载到 hdfs 中。

为了概念验证,我在同一台机器上使用单节点 hadoop 安装和 Spring-XD。Hadoop 与 Ambari 一起部署,并且报告功能正常且运行良好 (HDP 2.0)。Spring-XD 安装在 /var/spring-xd 中,环境变量 $XD_HOME 设置为 /var/spring-xd/xd;Spring 的服务器和客户端都使用--hadoopDistro hdp20标志运行。但是,到目前为止,我只能在日志文件中获取这些消息:

我仍然能够成功执行以下命令

从 xd-shell 并成功获得结果。

我知道 Spring-XD API,但现在想留在 XD-Shell 中。任何帮助将不胜感激。