python - TensorFlow QAT 如何获得量化权重

Question

如何在 TensorFlow 的量化感知训练 (QAT) 后获取量化权重的值或获取量化感知权重。我想在 NumPy 上为应用程序使用整数量化权重。到目前为止，我使用如下，它给出了 float32 值。

import tensorflow.keras.backend as K

for layer in q_aware_model.trainable_weights:
    weights_temp.append(K.get_value(layer))

Answer 1

要查看量化权重，您必须先转换模型。请参阅此 TF 示例中的流程描述和 numpy 应用程序

请注意，您可能需要每晚使用 tf build 才能使量化函数正常工作。