1

经过长时间寻找我的问题，任何解决方案基金都不适合我。我希望你能帮助我克服这个问题，这样我就可以继续我的项目。问题是在对 GRU 模型进行训练后整数量化时，它给了我以下错误： ValueError: Failed to parse the model: pybind11::init(): factory function returned nullptr. GRU量化误差

我正在使用的代码：

converter = tf.lite.TFLiteConverter.from_saved_model(GRUMODEL_TF)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
def representative_dataset_gen():
for sample in XX_data:
    sample = np.expand_dims(sample.astype(np.float32), axis=0)
    yield [sample]

converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.inference_input_type = tf.int8
converter.inference_output_type = tf.int8
converter.representative_dataset = repr_data_gen
model_tflite = converter.convert()
open(GRUMODEL_TFLITE, "wb").write(model_tflite)
4

0 回答 0