创建了一个简单的虚拟序列模型,
tf.keras
如下所示:model = tf.keras.Sequential() model.add(layers.Dense(10, input_shape=(100, 100))) model.add(layers.Conv1D(3, 2)) model.add(layers.Flatten()) model.add(layers.Dense(10, activation='softmax', name='predict_10'))
训练模型并使用
tf.keras.models.saved_model
.获取
input
输入并output node names
使用saved_model_cli
.saved_model_cli show --dir "path/to/SavedModel" --all
saved model
使用freeze_graph.py实用程序冻结。python freeze_graph.py --input_saved_model_dir=<path/to/SavedModel> --output_graph=<path/freeze.pb> --input_binary=True --output_node_names=StatefulPartitionedCall
模型被冻结。
现在这是主要问题:
- 要加载冻结图,我使用了本指南Migrate tf1.x to tf2.x (
wrap_frozen_graph
) - 用过的
with tf.io.gfile.GFile("patf/to/freeze.pb", 'rb') as f: graph_def = tf.compat.v1.GraphDef() graph_def.ParseFromString(f.read()) load_frozen = wrap_frozen_graph(graph_def, inputs='dense_3_input:0', outputs='predict_10:0')
- 输出错误
ValueError: Input 1 of node StatefulPartitionedCall was passed float from dense_3/kernel:0 incompatible with expected resource.
将 .pb 转换为 .dlc (Qualcomm) 时出现同样的错误。实际上我想在高通的 Hexagon DSP 或 GPU 上运行原始模型。