如批归一化的原始论文中所述,一维特征(例如,来自全连接层)和二维特征(例如,来自卷积层)的批归一化在很大程度上是不同的。
tensorflow 库提供了一种使用 1-D 功能进行批量标准化的简单方法,但我不确定它是否与 2-D 相同。该工具是tf.contrib.layers.batch_norm
.
我不完全理解这种方法,但我们可以将此方法应用于二维批量标准化吗?
您可以在此处查看 batch_normalization 的用法或搜索fused_bn
Tensorflow 1.0 之后的用法。