在我的公司,我们有许多在任何一天都运行的数据馈送和处理。提要和处理步骤的数量开始超过当前管理的临时管理能力。是否有一个很好的解决方案可以帮助记录和管理/调度依赖项?
例如:
A:当文件 x 被 FTP 拖放到目录 D1 时,开始处理步骤 B
B:将平面文件加载到 DB1
C:当文件 y 被 FTP 拖放到目录 D2 时,开始处理步骤 D
D:将平面文件加载到DB11
E:当 B 和 D 完成后,搅动数据,并将新数据加载到 DB111 中。
F:当步骤 E 完成后,启动应用程序进程 P
G:等...
我希望这些步骤在适当的时间运行,更不用说如果 B 失败,没有理由运行步骤 E&F,但我仍然可以运行 C&D。当我成功重新运行 B 时,它应该只触发 E &F要重新运行,不是C&D。
我们是 .NET/C#/Sql Server 商店,我已经熟悉 SSIS。这真的是最好的吗?这可以很好地管理步骤,但不能很好地管理外部依赖项或日志记录。首选开源 (.NET),但不是必需的。