6

我正在尝试在 google cloud ml-engine 上部署重新训练的初始模型版本。从SavedModel 文档、此参考资料和 rhaertel80 的这篇文章中收集信息，我成功地将我重新训练的模型导出到 SavedModel，将其上传到存储桶并尝试将其部署到 ml-engine 版本。

最后一个任务实际上创建了一个版本，但它输出了这个错误：

Create Version failed. Bad model detected with error: "Error loading the model: Unexpected error when loading the model"

当我尝试通过命令行从模型中获取预测时，我收到以下错误消息： "message": "Field: name Error: Online prediction is unavailable for this version. Please verify that CreateVersion has completed successfully."

我进行了几次尝试，尝试了不同method_name的tag选项，但都没有奏效。

添加到原始 inception 代码中的代码是

  ### DEFINE SAVED MODEL SIGNATURE

  in_image = graph.get_tensor_by_name('DecodeJpeg/contents:0')
  inputs = {'image_bytes': tf.saved_model.utils.build_tensor_info(in_image)}

  out_classes = graph.get_tensor_by_name('final_result:0')
  outputs = {'prediction': tf.saved_model.utils.build_tensor_info(out_classes)}

  signature = tf.saved_model.signature_def_utils.build_signature_def(
      inputs=inputs,
      outputs=outputs,
      method_name='tensorflow/serving/predict'
  )


  ### SAVE OUT THE MODEL

  b = saved_model_builder.SavedModelBuilder('new_export_dir')
  b.add_meta_graph_and_variables(sess,
                                 [tf.saved_model.tag_constants.SERVING],
                                 signature_def_map={'predict_images': signature})
  b.save()

另一个可能有帮助的考虑因素：我使用导出的 a trained_graph.pbwithgraph_def.SerializeToString()在本地获取预测并且它工作正常，但是当我用它替换它时saved_model.pb它失败了。

关于问题可能是什么的任何建议？

4

1 回答 1

7

在您的 signature_def_map 中，使用密钥“serving_default”，其定义signature_constants为DEFAULT_SERVING_SIGNATURE_DEF_KEY：

b.add_meta_graph_and_variables(sess,
                               [tf.saved_model.tag_constants.SERVING],
                               signature_def_map={'serving_default': signature})
于 2017-03-24T14:32:08.987 回答