1

我想使用 Dense V-Net 架构实现迁移学习。当我在寻找如何做到这一点时，我发现这个功能目前正在开发中（如何在 NiftyNet 中实现迁移学习？）。

虽然从那个答案很明显没有直接的方法来实现它，但我试图：

1) 创建密集 V-Net

2) 从 .ckpt 文件中恢复权重

3）自己实现迁移学习

要执行第 1 步，我想我可以使用 niftynet.network.dense_vnet 模块。因此，我尝试了以下方法：

checkpoint = '/path_to_ckpt/model.ckpt-3000.index'
x = tf.placeholder(dtype=tf.float32, shape=[None,1,144,144,144])
architecture_parameters = dict(
    use_bdo=False,
    use_prior=False,
    use_dense_connections=True,
    use_coords=False)

hyperparameters = dict(
    prior_size=12,
    n_dense_channels=(4, 8, 16),
    n_seg_channels=(12, 24, 24),
    n_input_channels=(24, 24, 24),
    dilation_rates=([1] * 5, [1] * 10, [1] * 10),
    final_kernel=3,
    augmentation_scale=0)
model_instance = DenseVNet(num_classes=9,hyperparameters=hyperparameters,
                             architecture_parameters=architecture_parameters)

model_net = DenseVNet.layer_op(model_instance, x)

但是，我收到以下错误：

TypeError: Failed to convert object of type <type 'list'> to Tensor. Contents: [None, 1, 72, 72, 24]. Consider casting elements to a supported type.

所以，问题是：

有什么方法可以实现吗？

4

2 回答 2

1

NiftyNet 中添加了迁移学习。

您可以通过 config 参数选择要恢复vars_to_restore哪些变量，通过 config 参数选择要冻结哪些变量vars_to_freeze。

请参阅此处了解更多信息。

于 2018-11-23T06:54:16.917 回答
0

通过将配置文件部分中的参数设置为预训练模型的数量，starting_iter可以通过从现有模型恢复权重来实现简单的迁移学习。[TRAINING]在你的例子starting_iter=3000中。

这将从您的模型中恢复权重，并且新的迭代将从这个初始化开始。

这里你的模型的架构必须完全一样，否则你会得到一个错误。

对于更复杂的迁移学习或微调，您可以只恢复部分权重，这里有一个很好的实现。它可能很快就会与官方 niftynet 存储库合并，但您已经可以使用它了。

于 2018-11-21T10:32:52.810 回答