在过去的一天里,我一直在努力为这种方式找到一个好的解决方案,并想听听你的想法。
我有一个接收大型动态 JSON 数组(仅包含字符串化对象)的管道,我需要能够为该数组中的每个条目创建一个 ContainerOp(使用 dsl.ParallelFor)。
这适用于小输入。
现在,由于 argo 和 Kubernetes 的管道输入参数大小限制,数组作为文件 http url 出现(或者这是我从当前打开的问题中理解的),但是 - 当我尝试从一个 Op 读取文件以使用作为 ParallelFor 的输入,我遇到了输出大小限制。
对于这种情况,什么是好的和可重用的解决方案?
谢谢!