问题标签 [batchnorm]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
37 浏览

deep-learning - 没有批量标准化的批量大小

我正在以 EDSR 作为基准模型来处理图像超分辨率任务。在 EDSR 之后,我没有在我的模型中使用任何批处理规范层。我突然想出了一个关于批量大小的愚蠢问题。

目前,我正在使用 batch-size=32 训练我的模型(如在 EDSR 中)。但由于我没有使用任何批量标准化技术,我看不出有任何理由使用大于 1 的批量大小。但我对自己的想法没有信心,因为作者的实现使用大于 1 的批量大小。

有人可以帮我解决这个问题吗?我错过了什么?