问题标签 [tfx]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
403 浏览

tensorflow - TFX 出租车示例中的 TFX 根

_tfx_root芝加哥出租车示例中的 是指什么,为什么需要它?

我说的是这一行:https ://github.com/tensorflow/tfx/blob/master/examples/chicago_taxi_pipeline/taxi_pipeline_simple.py#L54

元数据结束管道最终在 ~/tfx 中,但没有 tfx git repo 的本地副本,它不会在 Airflow(本地)中运行。

airflow initdb在您手动将管道 Python 文件复制到目录之后,会在运行时创建元数据$AIRFLOW_HOME/dags/blabla目录。能够配置~/tfx虽然的位置会很好。有什么想法吗?

0 投票
1 回答
277 浏览

python - 带有 Tensorflow 扩展管道的 TF-Lite-Converter(芝加哥出租车管道示例)

目标:TFX -> TF Lite Converter -> 在移动/物联网设备上部署模型

我目前正在学习TensorFlow Extended with its Chicago Taxi Pipeline Example。管道已完成运行(尽管经历了很多困难),并且Pusher组件已发出一个Tensorflow SavedModel文件 (.pb)。

但是,这里遇到了一个新问题:通过 Tensorflow nightly/1.13.1(都尝试过)和 Python 2.7.6,我可以通过一些简单的方法生成、保存和加载SavedModel(用于测试实用程序的 mnist 数字数据模型) python 代码,例如saved_model.simple_saveand ,但是在应用TFX Pushersaved_model.loader.load发出的模型时,我一直遇到错误,如下所示。

(也许我在 TFX 管道上做错了什么?)

我使用的代码:

错误:

还有另一种尝试,我尝试将SavedModel转换为GraphDef(冻结图),以便我可以再试一次转换器。转换需要 a output_node_names,我不知道;我也找不到模型在代码中的保存位置(所以也许我可以在某处发现输出节点名称)。

关于这个问题或替代方法的任何想法?提前致谢。

编辑:有人可以帮助创建标签吗?我的声望还没有达到1500,但是这个问题真的是关于tfx/tensorflow-extended

0 投票
2 回答
2032 浏览

tensorflow - 为 TensorFlow Serving REST API 生成实例或输入

我已准备好尝试基于已保存模型的 TensorFlow Serving REST API,并且想知道是否有一种简单的方法可以生成我需要随请求一起发送的 JSON 实例(基于行)或输入(列) 。

我的模型中有数千个特征,我不想手动输入 JSON。有没有一种方法可以使用现有数据来提供可以在预测 API 中抛出的序列化数据?

我在整个管道(包括 tf.Transform)中使用 TFX,所以我不确定 TFX 中是否有一种我可以使用的简洁方法。

的输出saved_model_cli是这样的:

这并没有告诉我太多。

0 投票
1 回答
1498 浏览

date - 在张量流或张量流扩展中转换日期

我正在使用 Tensorflow Extended 预处理数据,其中包括日期值(例如 16-04-2019 形式的值)。我需要对此进行一些预处理,例如两个日期之间的差异并从中提取日、月和年。

例如,我可能需要 01-04-2019 和 16-04-2019 之间的天数差异,但这种差异也可能跨越数天、数月或数年。

现在,只需使用 Python 脚本,这很容易做到,但我想知道是否也可以使用 Tensorflow 来做到这一点?对于我的用例来说,在 Tensorflow 中执行此操作很重要,因为转换需要以图形格式完成,以便我可以通过管道内的转换为模型提供服务。

为此,我正在使用 Tensorflow 1.13.1、Tensorflow Extended 和 Python 2.7。

0 投票
1 回答
718 浏览

tensorflow - 使用 TFX 设计图像管道

在阅读 TFX 的文档时,尤其是与数据预处理相关的部分,我认为管道设计更适合分类特征。

我想知道 TFX 是否也可以用于涉及图像的管道。

0 投票
0 回答
171 浏览

google-cloud-platform - 如何在 ML Engine 上调试预测,预测返回空数组

我正在实现一个 tfx 管道,类似于芝加哥出租车示例 推送模型的预测返回{"predictions": []}。我该如何调试这个问题?

我可以看到正在做出的预测的日志。但是因为它返回一个空数组,所以状态码是 200,并且没有关于出错的有用信息。我希望预测请求数据没有正确传递给估计器。

芝加哥示例使用它作为他们的服务接收器并且有效。我认为它也应该适用于我的示例

主要区别在于我只期望 1 个输入:一串由 . 分隔的编程语言'|': 'java|python'

然后,我在我的预处理函数中将该字符串拆分并使其成为形状为 500 的多一热编码数组(我正好有 500 个选项)

也可能是预测没有被 tf transform 正确转换的情况。(tf 转换是 tfx 管道的一部分并且运行正确)

要求:{"instances": ["javascript|python"]}

回复:{"predictions": []}

预期响应:({"predictions": [520]}它是一个回归模型)

0 投票
1 回答
555 浏览

tensorflow - 在 windows 上安装 tensorflow 扩展 python 3

我试图在 Windows 10 机器上 pip install tfx==0.13.0 并且我收到此错误是否有人能够 pip install tfx==0.13.0

Could not find a version that satisfies the requirement ml-metadata<0.14,>=0.13.2 (from tfx==0.13.0) (from versions: 0.12.0.dev0, 0.13.0.dev0, 0.13.1.dev0) No matching distribution found for ml-metadata<0.14,>=0.13.2 (from tfx==0.13.0)

0 投票
0 回答
294 浏览

tensorflow - tfma.view.render_slicing_metrics 不工作

我正在尝试使用tfma.view.render_slicing_metrics. 我得到了结果,tfma.load_eval_result(tfma_artifact.uri)我可以打印结果。

但是当我尝试使用可视化结果时,tfma.view.render_slicing_metrics(tfma.load_eval_result(tfma_artifact.uri))我看到的是一个空的可视化。

0 投票
1 回答
555 浏览

tfx - TFX 是用于数据预处理的吗

如果我的方法正确,我想就如何使用 TFX 获得一些意见。我的最终目标是对需要一些预处理的原始系列数据流进行一些预测。

通常我们有运行基本分析的 flink 作业,例如窗口化、分组和计算统计。然而,当时的想法是将这些管道移到梁上,并让 TFX 使用这些梁组件进行进一步的计算。

这被证明是相当具有挑战性的,因为 TFX 组件具有严格的 API,并且期望所有中间数据都是 TFRecords。

所以我的问题是,TFX 的目标是处理所有预处理逻辑(分组、窗口化......等)还是更多用于数据工程?

0 投票
1 回答
77 浏览

tensorflow - TFX 中 TFRecord 的输入何时发布?

当前发布的 TFX 仅包含 csv_input 函数。我正在处理图像数据,并尝试使用 TFRecord 的输入。我在 github 代码中看到过,所以在犹豫多久会在 TFX 的发布版本中发布?或者有什么方法可以解决它?谢谢!