问题标签 [coiled]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
504 浏览

python - 一个人如何将完美的云秘密与卷曲一起使用?

我正在尝试flow使用存储在prefect cloud其中的秘密来运行coiled.

在此处输入图像描述

错误出flowprefect client error

这是身份验证错误吗?我需要将 a 传递prefect cloud authentication tokencoiled集群吗?或添加配置以coiled使用这些选项之一

以下是我使用的代码和配置:

~/.prefect/config.toml

Flow

追溯

先感谢您。

0 投票
1 回答
99 浏览

python - KilledWorker 异常

我正在使用线圈来启动集群并使用 dask 对从 S3 存储桶读取的 csv 进行一些操作。然而,在某些时候,我的工人被杀了。当我检查日志时,以下任务正在杀死它们。

所以,然后,我将 csv 从 s3 存储桶移到我的本地仓库并运行它,但读取的 csv 仍然会失败。

另一点是读取的 csv 对于先验数据操作正常工作,但对于一些虚拟编码器、.compute() 和日期操作,工作人员正在被杀死。

知道会发生什么吗?

0 投票
0 回答
56 浏览

dask - 我在使用 Coiled 的 Dask 中遇到 SSL 错误

我已经为此苦苦挣扎了两天,我完全陷入困境,所以我想知道是否有人可以帮助我。

我似乎遇到了一个我无法弄清楚的 SSL 错误。

我正在我的笔记本中创建一个 dask 集群:

一切似乎都运行良好。

然后我将点的 CSV 加载到 Dask DF(来自 S3)中,这也很有效。集群接收命令,我可以看到它正在处理。

之后,我加载了一些栅格(也来自 S3,但它们是开放的,所以我只使用 HTTPS 链接)并保留它们。这很好用。

最后,我对点数据集运行了一个 map_partitions:

在这里我收到一个 TypeError:

在仪表板上 - 我可以看到命令已收到并且仍在处理中,即使笔记本上弹出错误。所以我最好的猜测是它与工作人员和调度程序之间盘绕的 TLS 通信有关。

这不会发生在本地集群上,之前也不会发生在盘绕上。我唯一能想到的是,我遇到了使用限制并输入了我的信用卡,这样我就可以继续使用线圈了。

我已经尝试了我能想到的一切,但我没有想法,而且我不确定从哪里开始调试。欢迎任何想法 - 会尝试任何东西!

0 投票
0 回答
32 浏览

geospatial - 在 Dask Distributed 上使用 Cythonized 类的计算不正确

我一直在努力解决这个问题 - 任何帮助将不胜感激。我不确定从这里去哪里。

我正在使用 Dask 使用scikit-image 的 MCP 类并行化最低成本路径计算

该类是用 Cython 编写的,由于Dask 期望中间结果是可序列化的,因此我实现了一个 Wrapper,它在反序列化期间“重新创建”MCP 类。

当我在没有 Dask 或使用 Dask 的单线程调度程序的情况下运行代码时,它需要更长的时间,但结果很好。

但是,当我切换到使用进程或线程运行(仍然使用 Dask Distributed)时,我没有收到任何错误,但我的结果中出现了一堆np.inf'。

此外,结果本身与我在单个线程上运行的结果不一致。

在此处添加相关代码片段:

我假设它与 MCP 类有关,但无法弄清楚可能导致 INF 发生的原因。

提前谢谢大家!