问题标签 [tensorflow-transform]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
9763 浏览

python - TensorFlow:TypeError:int() 参数必须是字符串、类似字节的对象或数字,而不是“NoneType”

假设我有这个数据框以镶木地板格式保存

以及一本告诉我应该使用哪些值进行插补的字典。然后我可以编写一个预处理函数。

并在 Apache Beam 管道中使用它

我收到此错误:TypeError: int() argument must be a string, a bytes-like object or a number, not 'NoneType'

似乎outputs[key].shape(None,)

有什么建议吗?

软件包版本:

整个错误信息:

0 投票
1 回答
304 浏览

python-3.x - 使用 TransformDataset 而不使用 AnalyzeAndTransformDataset

我正在尝试使用 tensorflow 转换,我想序列化由不同转换组成的整个管道。假设我有一个不必拟合的转换(作为数字列之间的特征交互)。我想TransformDataset直接在我已经定义好的预处理函数上使用该函数。无论如何,这似乎是不可能的

如果运行这样的东西

我得到错误

TransformDataset应该只在结果上使用吗AnalyzeAndTransformDataset

0 投票
1 回答
998 浏览

apache-beam - 使用光束和 tf 变换创建通用句子编码器嵌入时出错

我有一个简单的光束管道,它需要一些文本并使用带有 tf 变换的通用句子编码器获取嵌入。非常类似于使用 tf 1 制作的演示。

python 3.6.8, tf==2.0, tf_transform==0.15, apache-beam[gcp]==0.16 (我尝试了来自https://github.com/tensorflow/transform的各种兼容组合)

当 tf_transform 调用图形分析器时出现错误:

看起来图形分析器需要一个具有类型属性的操作列表,但它正在接收一个张量。除了图形分析器中的错误或与 tfx_bsl 的兼容性问题之外,我无法理解为什么会发生此错误(pyarrow 0.14 似乎存在问题,所以我已降级到 0.13)

点冻结的输出:

0 投票
1 回答
381 浏览

import - 如何执行正确的 Python 来导入已安装的 tensorflow.transform 包?

我的 Python 版本是 2.7.13。

我在 Jupyter Notebook 中运行以下命令。

首先,我安装了软件包

然后,

我可以看到包 tensorflow-transform 已安装。

但是,当我尝试导入它时,会出现警告和错误。

经过一番调查,我想我对这个问题有了一些想法。我运行这个:

这是输出

我尝试通过将 /home/jupyter/.local/lib/python3.5/site-packages 添加到 $PATH 的开头来修改 $PATH。但是,我仍然无法导入 tensorflow_transform。

基于以上和以下信息,我认为,当我运行导入命令时,它执行的是 Python 2.7,而不是 Python 3.5

还,

我认为问题是 tensorflow_transform 包安装在 /home/jupyter/.local/lib/python3.5/site-packages 中。但是当我运行“导入”时,它会转到 /usr/local/lib/python2.7/dist-packages 来搜索包,而不是 /home/jupyter/.local/lib/python3.5/site-packages ,所以即使更新 $PATH 也无济于事。我对吗?

我试图升级我的python,但是

然后,我添加了 --user。看来python并没有真正升级。

有什么解决办法吗?

0 投票
0 回答
849 浏览

python - 如何使用稀疏张量将 REST API 请求发送到 Tensorflow Serving 模型?

我正在尝试使用 TF Serving 为我的 TF 模型提供服务。这是我的模型输入:

然后我导出我的模型:

因此,当我使用 Docker Hub 中的 TFS 映像通过此代码提供导出模型时,将 HTTP GET 请求发送到 /model/metadata 我得到:

但是当我向 /model:predict 发送 HTTP POST 请求时:

我收到一个错误

那么我应该如何重新组织 JSON 以从 API 获得正确的响应?TF 版本:2.1,TF Serving 最新和 TF Transform - 0.21.0。

0 投票
2 回答
204 浏览

tensorflow2.0 - Tensorflow 扩展中的训练器组件错误

这是我在完成教程并尝试使用我自己的数据集构建一个 tfx 管道之后第一次构建一个 tfx 管道。我可以对我编写的转换代码使用一些建议,并且更好地理解,我会感谢您的时间并提前感谢。

我已经完成了 ExampleGen、StatisticsGen、SchemaGen、ExampleValidator、Transform,并且在 Trainer 组件中出现错误。

错误:

代码:

0 投票
0 回答
2004 浏览

tensorflow - 如何使用自定义函数在 tf 数据集上使用应用和映射函数

我正在尝试了解如何在 TensorFlow 中使用 map 和 apply 函数。目标是在将数据读入 TensorFlow 时使用所有基本数据预处理步骤,因为 map 提供了并行化操作的选项。

将 a_list 转换为 tf 数据集格式

应用 map 计算列表的 len

应用映射将所有字符串转换为小写

在 a_list 上使用 apply 函数

请帮我理解

  1. 为什么我无法在 map 能够执行时使用 len(x) 使用 apply 函数?
  2. 如何创建自己的自定义函数并在 Dataset.map 和 Dataset.apply 期间使用预先构建的函数传递它?
0 投票
1 回答
64 浏览

tensorflow - 如何制作 tf.transform (Tensorflow Transform) 编码的字典?

我正在尝试使用此tfx.components.Transform函数获取“tf.transform 编码字典” 。

我需要这样的字典:“您加载的数据的字典({feature_name:feature_value})。”

如上所述的转换给了我一个 TfRecord 文件。我怎样才能正确解码?

任何帮助,将不胜感激。

0 投票
0 回答
136 浏览

tensorflow - 在 TFX 管道中放置图像预处理和增强的最佳实践是什么?

我有一个语义分割深度学习模型,我想使用 TFX 在 kubeflow 上部署它。

当我将独立的 DL 代码移动到 TFX 组件时,我遇到了一些问题

  1. 输入图像和掩码将存储在 tf 记录中。在 TFX 管道启动(即 ExampleGen)之前进行诸如裁剪、调整大小、将蒙版和图像组合到地面实况等预处理是否是一种好习惯?
  2. 或者,将原始图像和蒙版存储在 tf-record 中,然后在 TFX 的 Transform 组件中进行预处理会更好吗?
  3. 我还有一些在训练期间用于数据增强的代码。在训练器组件或 TFX 的转换组件中应用增强功能会更好吗?

我非常感谢任何需要注意的专业提示或注意事项!

0 投票
1 回答
163 浏览

tensorflow - 保存预处理 TensorFlow Transform 函数

目前我们有一个模型,我们将使用 Tensorflow Serving 将其用于我们的 API。因此,我们需要将当前 API 输入数据转换为特征。由于模型的创建和模型的使用是在两个不同的存储库中执行的,并且我不想在两个不同的存储库中进行转换(以使两个存储库保持相同),我正在阅读有关 Tensorflow 变换能够使用 1 个函数来处理训练数据和服务数据。但是,我发现很难理解它在生产中是如何工作的。当我保存模型时,我可以包括保存预处理功能吗?或者我可以在哪里“托管”这个预处理功能?

所以要清楚,我有一个预处理训练数据的模型。我想对服务数据使用相同的功能。