问题标签 [kubeflow-pipelines]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
305 浏览

kubernetes - Kubeflow kale 连接 Rok 模块失败

我正在尝试将 kubeflow kale 集成到 jupyterlab 中。为此,我使用以下命令安装了推荐的软件包

docker 镜像构建成功。当我在集群中运行这个 jupyterlab 时,出现以下错误

我需要安装任何其他插件吗?

请帮助任何人解决此问题。提前致谢

0 投票
1 回答
197 浏览

google-kubernetes-engine - 无法将 Kubeflow 管道部署到 GKE 集群

我根据 Kubeflow Pipelines 的要求(https://cloud.google.com/ai-platform/pipelines/docs/configure-gke-cluster)创建了一个 GKE 集群,如下所示:

  • 3 个节点,至少 4GB 内存和两个 CPU
  • 具有角色的自定义服务帐户:logging.logWriter、monitoring.metricWriter、monitoring.viewer、storage.objectViewer

尝试在 Kubeflow Pipelines(来自 Marketplace)配置上选择集群时,它显示“OAuth 范围不足”。

我想也许我忽略了一个重要步骤,所以我尝试从 Kubeflow Pipelines 配置页面创建一个新集群。尝试选择此集群时,它仍然显示“OAuth 范围不足”。

是否有更多角色需要添加到服务帐户?

0 投票
1 回答
434 浏览

kubernetes - dsl.ContainerOp 与 python

将 .py 文件下载到执行环境中有哪些选项?

在这个例子中:

正在从 CLI 调用 run_preprocess.py 文件。

问题是:如何在那里获取该文件?

我看过这个有趣的例子:https ://github.com/benjamintanweihao/kubeflow-mnist/blob/master/pipeline.py ,它会在运行管道之前克隆代码。

另一种方法是使用 Dockerfile 进行 git 克隆(尽管构建映像需要很长时间)。

还有什么其他选择?

0 投票
1 回答
150 浏览

jupyter-lab - JupyterLab/Elyra:在 Kubeflow Pipelines 上运行的管道失败,本地部署中出现“未指定主机”

我在本地环境中运行 Kubeflow Pipelines,以及 JupyterLab 和 Elyra 扩展。我创建了一个笔记本管道并按如下方式配置了运行时配置,将 api_endpoint 设置为http://localhost:31380/pipeline(禁用了安全性)。尝试运行管道时会显示以下错误消息:

0 投票
0 回答
94 浏览

python - 谷歌云平台 Kubeflow 管道错误

我有一个使用 Kubeflow Pipeline 的 Google Cloud Platform 帐户。管道的第一个组件预处理一些数据,第二个组件使用该预处理数据训练模型(SKlearn 决策树分类器)。为了展示代码示例,下面的示例是对管道第二个组件的简单修改:

在这里,我没有加载预处理数据,而是使用 IRIS Sklearn 数据集,但输出完全相同。一切似乎都按预期工作,每个打印语句都按预期出现在 Kubeflow 平台输出控制台上,但是在第二个组件完成执行后(在输出控制台上显示最后一个打印正确之后),出现错误:

你知道为什么会这样吗?我做错了什么还是谷歌云/Kubeflow 管道问题?

提前致谢!

0 投票
2 回答
88 浏览

python - 如何在 Python 中启动 Kubeflow 管道开发

我一直在研究 Kubeflow 并试图掌握如何在其中编写我的第一个 hollo world 程序并在我的 mac 上本地运行。我已经在我的机器kfpkubectl本地安装了。出于测试目的,我想编写一个具有两个功能的简单管道:get_data()add_data(). 该文档是压倒性的,我不清楚如何在没有安装 k8s 的情况下在本地编程,在创建 zip 和上传之前连接远程 GCP 机器并在本地调试,或者在本地执行代码并查看它是如何在谷歌云上运行的?

0 投票
2 回答
415 浏览

python - 使用带有 Python 和 PyCharm 的 Kubeflow Pipelines SDK 连接到 AI Platform Pipelines

在 PyCharm IDE 中使用 Windows 10 和 Python 3.9

我正在尝试使用以下代码列出管道:

我知道主机变量是正确的,因为我从 AI 平台管道复制了它。我遇到以下问题

我认为找不到该文件,因为该程序无法连接到 GCP 的 AI PLatform 管道。

我通过在 Pycharm 终端中执行以下命令安装了 Kubeflow Pipeline SDK:

  • conda create --name mlpipeline python=3.7
  • conda 激活 mlpipeline
  • pip3 安装 kfp --upgrade --user

当我运行时:

我收到以下命令错误:

我努力了

  • 安装 Google Cloud SDK 并初始化 gcloud(虽然当我运行命令时显示“找不到 Python”
  • 使用 gcloud 命令安装 kubectl 和 gsutil
0 投票
0 回答
102 浏览

matlab - 通过 kubeflow 管道支持 matlab 机器学习模型

只是想弄清楚是否可以创建 kubeflow 管道来处理 matlab ML 脚本。

我正在网上搜索,但似乎没有人问过这个问题。

我知道 matlab 是 dockerizable,但是有没有人能够为它编写 KF 管道?

我认为 KFServing 应该是工具,但我没有看到任何与 matlab 相关的内容

有什么建议吗?

0 投票
2 回答
353 浏览

python-3.x - 将 spacy 模型保存并加载到谷歌云存储桶

我有一个 spacy 模型,我正在尝试使用这种格式将它保存到 gcs 存储桶中

但是每次我运行这个我都会收到这个错误消息

此外,当我创建 kubeflow 持久卷并将模型保存在那里时,我可以使用trainer.load('model')我收到此错误消息下载模型

我不明白为什么会出现这些错误,因为当我在本地电脑上运行它并使用本地路径时,它可以完美运行。

0 投票
0 回答
111 浏览

google-cloud-platform - 从 GKE 集群访问 kubeflow 管道

我已经 使用以下服务 AI Platform -> Pipelines 从 GCP Console安装Kubeflow了UI 可以正常访问。private GKE Clusterkubeflow pipeline

但是我很困惑如何从互联网访问 UI,因为没有ingress/LBs为此工作负载创建,因为只有类型Cluster IP的服务是作为 kubeflow 安装的一部分创建的

在此处输入图像描述

Kubeflow PipelineURL 如下,解析为公共 IP 地址。

我在 CloudDNS 中看不到任何条目,但似乎 URL 的暴露方式类似于CloudRun/App EngineURL 的暴露方式。

ApplicationTAB fromGKE Console下,可以看到以下内容

在此处输入图像描述

请忽略上图中关于“状态”的错误,因为我将节点数更改为 0。