4

我想在 Tensorflow Serving 中尝试我的seq2seq模型进行部署。因此，我实现了一个Custom operation替换py_func以成功导出基于 python 的代码。

我以两种方式测试了 C++ 自定义操作。

  1. 使用load_op_library
  2. 从源代码构建 TensorFlow 服务

两种方式都运行成功。但是，以第二种方式运行时，输出和精度会有所不同。

我还在printf()自定义操作实现中使用了一些来调试输入和输出值。

使用load_op_library, 它在标准输出中打印。

使用TF Serving, 在标准输出中看不到任何prints。

  1. 为什么在 TF Serving 中运行相同的代码不会给出准确的结果？

  2. 当模型在 TF Serving 中运行时如何调试值（看不到 printf 的结果）？

  3. 有什么方法可以检查SavedModel'svariables文件中的值吗？

4

0 回答 0