tensorflow - 使用 Keras 训练稀疏模型

Question

我正在尝试训练一个稀疏模型，即一些模型参数在优化过程中必须保持为零。

这是否可以在 Keras 中为参数定义一个掩码，以便优化器不会更新被掩码的参数？

不幸的是，冻结一层是行不通的，因为我需要以更细粒度的方式屏蔽参数。

Answer 1

您可以使用tf.where在参数和 之间进行元素选择tf.stop_gradient(parameters)。