6

我正在使用 tf.slim 来实现自动编码器。我与以下架构完全卷积:

[conv, outputs = 1] => [conv, outputs = 15] => [conv, outputs = 25] =>
=> [conv_transpose, outputs = 25] => [conv_transpose, outputs = 15] => 
[conv_transpose, outputs = 1]

它必须是完全卷积的,我不能进行池化(更大问题的限制)。我想使用捆绑的重量,所以

encoder_W_3 = decoder_W_1_Transposed 

(所以第一个解码器层的权重是最后一个编码器层的权重,转置)。

如果我以常规方式重用权重 tfslim 让您重用它们,即reuse = True 然后只提供您想要重用的层的范围名称,我会遇到大小问题:

ValueError: Trying to share variable cnn_block_3/weights, but specified shape (21, 11, 25, 25) and found shape (21, 11, 15, 25).

如果您不转置先前模型的权重,这是有道理的。有谁知道我如何转换这些权重?

PS:我知道这是非常抽象和挥手的,但我正在使用自定义 api,在 tfslim 之上,所以我不能在这里发布代码示例。

4

1 回答 1

2

有谁知道我如何转换这些权重?

转置很简单:

new_weights = tf.transpose(weights, perm=[0, 1, 3, 2])

将交换最后两个轴。

但是,正如@Seven 提到的,这不足以解决错误,因为权重的总数发生了变化。

于 2017-05-24T18:04:49.710 回答