问题标签 [oozie-coordinator]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
hadoop - oozie 协调器作业未在给定的开始时间开始
我正在使用 oozie 协调器来安排我的 hadoop 作业。我将开始时间定为 12:26,但它在 8-9 小时后开始,并根据我在工作属性文件中给出的频率完成所有剩余的工作。
为什么这个 8 小时的暂停,仍然使用我在 job.properties 中给出的 startTime 完成剩余的工作?
协调器.xml
有没有时区问题?
hadoop - 基于 Oozie 文件的协调器
我正在尝试创建一个具有基于文件的依赖项的协调器。我的目标是协调员只有在创建指定的文件时才应该执行工作流。如果文件没有被创建,协调器应该等到文件被创建。我尝试过使用以下代码:
我启动了 Oozie 工作,它处于 WAITING 状态。我已经执行了脚本,它将在 HDFS 的指定目录结构中创建文件 (trigger.dat) (hdfs://localhost:9000/tmp/revenue_feed/${YEAR}/${MONTH}/${DAY}/ ${HOUR})。文件已创建,仍处于等待状态。
任何人都可以帮我解决这个问题..
oozie - 如何在不重新启动作业的情况下重新安排 OOZIE 中的协调员作业?
当我在 oozie 的 job.properties 中更改协调器作业的开始时间时,该作业没有占用更改的时间,而是在旧的预定时间运行。
旧工作.properties:
新工作。属性:
该作业没有在更改的时间运行:07 分钟,它在每小时的第 8 分钟运行。
请您告诉我解决方案,我如何在不重新启动或终止作业的情况下使作业获取更新的属性(更改的时间)。
oozie - 未从协调器设置 Oozie 工作流参数
我有以下工作流 XML 和 Coordinator XML,它们都是通过 Hue Oozie Editor 创建的。
Coordinator conf 如下
我已经处决了协调员。为 DATE 参数传递的值为空白。你看有什么问题吗?
简而言之,我试图根据触发工作流的时间在 HDFS 中创建一个文件夹。
我也试过
当我这样做时,它给出了一个错误。
oozie - 带有异步数据集的 Oozie 协调器
我们希望根据数据可用性安排工作流,但没有特定的数据到达频率。也可能有数据的多次重新运行,因此当天的数据的多个版本随时到达。
据我从规范中了解到,目前必须在协调器中指定频率参数。
但是,我们希望仅基于某些事件(数据到达或分区创建)触发我们的工作流,而不依赖于频率。
似乎这符合异步数据集的条件。Oozie 是否支持异步数据集?
linux - Oozie : Sqoop 动态目标目录
我正在sqoop
从Oozie
工作流中执行工作。我可以在sqoop
命令中创建具有静态名称的目标目录,如下所示。
我需要创建带有日期的动态目标目录。我尝试了以下,但没有工作。
运行时显示以下错误。
hadoop - 将 Oozie 协调器的运行日期传播到工作流中
问题总结
在运行 Oozie 协调器时,我需要工作流能够访问格式为的当前日期(即协调器运行的日期)yyyyMMdd
。
信息
我有一个由协调员初始化的大型 Oozie 工作流程。
坐标属性
协调器.xml:
从job.properties
(即不是协调员)运行此工作流时,我runDate=20150125
在job.properties
. 显然,从协调员那里运行时,我需要runDate
每天由协调员设置。这似乎微不足道,但我找不到解决方案。
我已经提到了一个 EL 函数,oozie.service.ELService.ext.functions.workflow
它允许我给出一个表示日期、日期格式和所需输出格式的字符串,然后返回该格式的字符串日期。即${convertDate("20150125", "yyyyMMdd", "yyyy-MM-dd") = 2015-01-25
。此功能在运行时完美运行job.properties
,我理想的解决方案是能够在 coordinator.xml 中使用它。但是,提交协调器时出现以下错误:
oozie - Oozie 的自定义操作执行器的架构位置
根据 oozie 文档,我可以创建一个自定义 Oozie ActionExecutor。
为此,我需要创建一个扩展 ActionExecutor 的类。该类需要打包为Jar。这个jar应该放在oozie服务器的lib目录下。这部分很清楚。
但是,我应该将定义动作的 XSD 文件放在哪里?在 oozie 服务器位置搜索,我找不到线索。有什么帮助吗?
oozie - Oozie 协调器配置属性
我有一个 Oozie 协调器,它调用特定的 Oozie 工作流程。
为了调用这个协调器,我需要为工作流提供它需要的所有配置属性。这是否意味着我应该复制属于工作流job.properties
文件的所有配置属性并将它们也放入coordinator.properties
文件中?还是我错过了什么?
oozie - 将 Oozie 协调器开始日期设置为当前季度的开始
我想为日期范围运行一个 oozie 工作作为季后至今。如何设置它以使开始实例具有季度开始日期