所以我能够从检查点保存模型。在 colab 笔记本上使用以下代码段。我不得不在 colab 笔记本中启用 TPU(运行时 > 更改运行时类型 > TPU),可能是因为我在 TPU 上进行了尝试(否则会引发错误)。
import os
import tensorflow.compat.v1 as tf
from google.protobuf import text_format
from tensorflow import keras
trained_checkpoint_prefix ='<GC storage bucket path>/model.ckpt-1000'
export_dir = '<GC storage bucket path>'
tpu_address = 'grpc://' + os.environ['COLAB_TPU_ADDR']
graph = tf.Graph()
with tf.Session(target=tpu_address,graph=graph) as sess:
# Reste from checkpoint
loader = tf.train.import_meta_graph(trained_checkpoint_prefix + '.meta', clear_devices=True)
loader.restore(sess, trained_checkpoint_prefix)
# Export checkpoint to SavedModel
builder = tf.compat.v1.saved_model.builder.SavedModelBuilder(export_dir)
builder.add_meta_graph_and_variables(sess, [tf.saved_model.TRAINING, tf.saved_model.SERVING], strip_default_attrs=True)
builder.save()
现在我说是因为这个保存的模型插入到 Colab 教程 noteook 中不起作用。它在单元格 6 中成功读取了模型,但推理部分出现错误。就在这儿:
num_detections, detection_boxes, detection_classes, detection_scores, detection_masks, detection_outer_boxes, image_info = session.run(
['NumDetections:0', 'DetectionBoxes:0', 'DetectionClasses:0', 'DetectionScores:0', 'DetectionMasks:0', 'DetectionOuterBoxes:0', 'ImageInfo:0'],
feed_dict={'Placeholder:0': np_image_string})
该过程以以下错误结束:
KeyError: "The name 'Placeholder:0' refers to a Tensor which does not exist. The operation, 'Placeholder', does not exist in the graph."
它也找不到所有其他变量名称。我不确定是什么原因造成的,一旦我这样做就会更新答案!
编辑1:
我使用以下自述文件解决了这个问题。
首先,我使用了 TF 2.2 和TPU repo的主分支,而不是 shapemask 分支。然后按照原始教程中的确切步骤进行培训。并使用以下命令导出保存的模型:
python ~/tpu/models/official/detection/export_saved_model.py \
--export_dir="${EXPORT_DIR?}" \
--checkpoint_path="${CHECKPOINT_PATH?}" \
--params_override="${PARAMS_OVERRIDE?}" \
--batch_size=${BATCH_SIZE?} \
--input_type="${INPUT_TYPE?}" \
--input_name="${INPUT_NAME?}" \
这里的 params override flag 应该传递给训练期间创建的 params.yaml 文件。批量大小设置为 1 以一次处理一张图像。更多详细信息可以在自述文件中找到。
注意:我必须注释掉以下行才能执行:
import segmentation from serving
它导出了模型,并能够在 colab 笔记本中加载和使用它,只需对笔记本进行一些细微的调整。