1

在设计具有多个输出的前馈神经网络时,具有具有多个输出的单个网络与具有多个网络且每个具有单个输出之间是否存在概念差异(计算效率除外)?

尽管同一网络中的输出神经元不会“即时”相互影响,但它们确实会影响训练,因为来自每个输出的误差会反向传播并影响隐藏层的权重,进而影响其他输出的值.

有没有可以更好地解决的问题?直觉上,我会说单个网络更适合一次只有一个输出应该处于活动状态的问题(即 OCR),其中多个网络更适合多个输出可以同时处于活动状态的问题(即当每个输出对应于某些特征时)在输入中,其中几个可以同时出现)。但这只是直觉。它实际上成立吗?

4

1 回答 1

3

正如您自己指出的那样,概念上的区别是联合训练与单独训练。我认为人们发现,在大多数情况下,如果问题相关(例如,如果所有输出都与识别字符有关),联合训练会有所帮助。所以我认为在你提到的两个问题中联合训练都会有所帮助,无论多个输出是否可以同时激活。

联合训练没有帮助并且可能会受到伤害的情况是任务根本不相关,例如,如果一个输出是关于“字符 a”而另一个输出是关于“声音 x”。

于 2010-02-01T20:10:18.210 回答