问题标签 [tensorflow-serving]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
568 浏览

tensorflow - 将 cifar10 模型从检查点文件导出到 tensorflow 服务

我尝试为 CIFAR10 模型修改 inception_export.py,但出现错误:

我对tensorflow还是很陌生,非常感谢任何帮助,谢谢

EDIT1:这是我的代码。我还没有安装 tensorflow 服务,所以相关的块被注释掉了。我还将 image_size 更改为 24 以适应 CIFAR10 模型。

0 投票
1 回答
477 浏览

python - 如何解决 Tensorflow 中的 ValueError proj_w?

我创建了一个 REST Web 服务来执行机器翻译,并在 translate.py 中进行了一些修改。如果我单独在 translate.py 中运行 decode 函数,在多次运行中我会得到正确的输出。但是当我尝试通过我创建的 web 服务运行解码功能时,我第一次得到了翻译结果。但是在第二次迭代中,我得到了标题中提到的错误。

这是我收到的错误消息: ValueError : 变量 proj_w 已存在,不允许。你的意思是在 VarScope 中设置 reuse=true 吗?

REST 网络服务部分:

解码python脚本:

它第一次起作用。但是对于网络服务的下一次点击,我得到这个错误“ ValueError:变量proj_w已经存在,不允许。你的意思是在VarScope中设置reuse = true吗?

0 投票
1 回答
2812 浏览

python-2.7 - 分布式 TensorFlow 示例不适用于 TensorFlow 0.9

我正在我自己的计算机上使用相同的操作系统和 python 版本尝试这个 tensorflow 分布式教程。我创建了第一个脚本并在终端中运行它,然后我打开另一个终端并运行第二个脚本并得到以下错误:

尝试官方分发教程时出现类似错误。

编辑:我在另一台机器上尝试过这个,我有相同的包,现在我得到以下错误日志:

可能是什么问题?

0 投票
1 回答
164 浏览

tensorflow-serving - session_bundle 中的 manifest_pb2 在哪里?

我正在尝试使用以下代码段导出先前训练的模型(pb)以用于服务

但是没有找到 exporter.py 中的 manifest_pb2。我在这种方法中是否遗漏了一些基本的东西?

0 投票
1 回答
924 浏览

docker - Docker 上的 TensorFlow 服务 | 写得太长

尝试按照教程“通过 Docker 使用 TensorFlow 服务”:https ://tensorflow.github.io/serving/docker

我收到以下错误:

0 投票
1 回答
1756 浏览

tensorflow - 为什么我们在 Tensorflow 中指定模型时需要担心批量维度?

考虑神经网络中每一层的批量维度似乎有点麻烦。为什么我们在 Tensorflow 中没有一些功能可以为整个模型设置批量大小?

0 投票
0 回答
524 浏览

tensorflow - 带有图像输入的 TensorFlow Serving

我正在尝试通过 http 发送图像输入以使用 tensorflow 进行分类。我已经详细查看了https://www.tensorflow.org/versions/r0.9/tutorials/image_recognition/index.html的 c++ 代码

我已经使用 C++ API 实现了 inception-v3 示例模型。它采用以下形式输入图像:

但是,我想添加以下情况:

这是因为它只接受本地图像文件。我想添加从在线图像中获取文件指针并将其分类到内存中的功能。我目前正在为此工作,但到目前为止还没有运气。谁能提供一些见解,我将如何实施这一点?

0 投票
1 回答
379 浏览

c++ - Tensorflow Serving bazel build Error: mnist_inference_2.cc - Signatures' has not been declared

我正在尝试从https://tensorflow.github.io/serving/serving_advanced.html复制 tensorflow 服务示例

但我收到以下错误。可能是 TensorFlow 库错误。任何帮助将不胜感激。

0 投票
0 回答
380 浏览

tensorflow - 分布式 TensorFlow train.Supervisor RuntimeError on stop

我正在测试一个分布式 TensorFlow,几乎与inception_distributed_train.py(同步数据并行)相同,但使用基本示例的默认mnist 数据集

对于主工人(仅),对于sv = tf.train.Supervisor关闭sv.stop()给出RuntimeError: ('Coordinator stopped with threads still running: %s', 'Thread-4')

同时在ps节点上,我看到了日志Variable:0: Skipping cancelled dequeue attempt with queue not closed,变量 1-7 也是如此,但有趣的是,变量 8 没有定义为global_step = tf.Variable(0)并传递给tf.train.SyncReplicasOptimizer方法minimizeas global_step

这个错误是否会给任何人敲响警钟?我真的看不出我的逻辑与inception_distributed_train.py的逻辑有何不同

0 投票
1 回答
8571 浏览

python - 在推理服务中使用 tf.Session 时它是线程安全的吗?

现在我们已经使用 TensorFlow 来训练和导出模型。我们可以用这个模型来实现推理服务,就像我们tensorflow/serving做的那样。

我有一个关于tf.Session对象是否是线程安全的问题。如果是真的,我们可以在启动后初始化对象,使用单例对象来处理并发请求。