python - Keras 中是否可以有不可训练的层？

Question

我想计算像模糊或重采样这样的恒定卷积，并希望它在训练期间永远不会改变。

我可以将卷积核初始化为常量并将其排除在 Keras 的训练之外吗？

更具体地说，我不想将其用于文档中声明的目的。我想以这种方式实现残差网络：一个分支执行正常的可训练卷积，而并行分支执行一些恒定的操作，例如平均。

Answer 1

您应该能够将trainable = False参数传递给图层定义，或layer.trainable = False在创建图层后设置属性。在后一种情况下，您需要事后编译。请参阅此处的常见问题解答。

然后，您可以通过传递kernel_initializer = initializer参数为层设置恒定权重。更多关于初始化器的信息可以在这里找到。如果您已经在某处定义了权重矩阵，我认为您将需要定义一个自定义初始化程序，将权重设置为您想要的值。该链接显示了如何在底部定义自定义初始化程序。my_constant_weight_matrix假设您已经定义，那么像以下这样简单的东西可能会起作用：

def my_init(shape, dtype=None):
    # Note it must take arguments 'shape' and 'dtype'.
    return my_constant_weight_matrix
model.add(Conv2D(..., kernel_initializer=my_init))  # replace '...' with your args

也就是说，我还没有验证，当我进行谷歌搜索时，我看到很多关于层冻结无法正常工作的错误报告弹出。不过值得一试。