computer-vision - 深度学习 - 在 Conv 网络模型之上进行微调

Question

我正在使用 Alexnet 架构对图像网络模型进行微调。我的数据集非常小（每类 7 张图像，没有增强）。我必须删除最后一个 FC 层（"FC8"）的权重，但其他全连接层呢？我应该使用图像网络模型的权重还是随机初始化"FC6"？"FC7"所有三个 FC 层的学习率都是 5。

Answer 1

由于训练示例很少，我建议修复所有层（conv、fc6 和 fc7）的 wights，并使用线性 SVM 来训练最后一层。大多数 SVM 训练包和算法都使用全局凸优化，并且在此设置下可能会产生比 SGD 更好的结果。