我正在使用以下示例训练数据解决回归问题。
如图所示，我只有 4 个参数的输入，其中只有一个在变化，即 Z，因此其余参数没有实际值，而 124 个参数的输出表示从 O1 到 O124 注意 O1 以 20 [1000 然后1020 然后 1040 ...] 虽然 O2 以不同的速率变化，即 30 但仍然是恒定的，并且同样适用于所有 124 个输出，所有这些都以恒定的方式线性变化。
我相信这是一个微不足道的问题，一个非常简单的神经网络模型将在测试数据上达到 100% 的准确度，但结果却恰恰相反。
- 我使用线性回归器达到了 100% 的测试准确度，使用 KNN 回归器达到了 99.99997% 的测试准确度
- 我在使用 relu 激活的 10 层神经网络中达到了 41% 的测试数据准确率，而所有其余的激活函数都失败了，浅层 relu 也失败了
- 使用具有线性激活函数且没有隐藏层的简单神经网络，我在测试数据上达到了 92%
我的问题是如何让神经网络获得 100% 的测试数据，如线性回归器？假设使用具有线性激活的浅层网络与线性回归器等效，但结果不同，我是否遗漏了什么？