neural-network - 神经网络逼近函数

Question

我正在尝试测试神经网络作为近似函数的效率。

我需要近似的函数有 5 个输入和 1 个输出，我应该使用哪种结构？

我不知道应该应用什么标准来决定隐藏层的数量和每层的节点数量。

提前谢谢你，问候

朱塞佩。

Answer 1

我总是使用单个隐藏层。从理论上讲，没有任何函数可以用 2 个或更多隐藏层来逼近，而这些隐藏层不能用一层来逼近。要使单个隐藏层更复杂，请添加更多隐藏节点。

通常，隐藏节点的数量会有所不同，以观察对模型性能的影响（通过准确性或其他方式衡量）。由于欠拟合（神经网络的输出函数过于简单，遗漏了数据中的重要细节），隐藏节点太少会导致拟合效果变差。由于过度拟合，太多的隐藏节点会导致更差的拟合（神经网络变得如此灵活，以至于它会追逐数据中的每一点噪声）。

Answer 2

请注意，对于分类问题，如果要分离凹多边形，则至少需要 2 个隐藏层。

我不确定隐藏层的数量如何影响函数逼近。