machine-learning - XOR 的最小迭代神经网络需要

Question

标准反向传播解决异或问题所需的训练集的最小曝光次数是多少？另一种类型的神经网络会更快地解决它吗？

什么是最好的设置（隐藏层节点的数量，学习率）？

谢谢！

Answer 1

如果使用它们，它取决于网络布局、学习率和正则化参数。

你也可能对网络的初始权重感到幸运或不幸，因为在反向传播网络中它们应该被随机初始化。然而，意外开始接近局部最小值的可能性很小。

对于 XOR 函数，具有 2 个节点的单个隐藏层就足够了。

应该不需要偏置节点。也不需要正则化，因为过拟合通常不是 XOR 函数的问题。
关于学习率，我认为 0.05 是好的，但我没有确凿的证据。尝试一下，看看你是否能找到更好的价值。

Coursera“机器学习”课程中非常直观地讨论了该主题。您可能想在他们的预览网站上查看视频。在该页面上查找“神经网络：学习（第 5 周）”部分。