0

好吧，我真的很困惑。

我有一个简单的特征顺序，即所有字母和几个符号，计算字符串中包含多少次。

我的选择结果如下

numberOf_a
numberOf_b
...
numberOf_Z
numberOf_.
numberOf_,

我有一个 65 个值的测试样本，MLP 可以得到 46 个正确值。

现在，如果我随机选择特征的顺序，使用相同的数据进行训练，评估相同的值，我会得到不同数量的正确预测，例如 49。

结果是一致的（相同的顺序将产生相同的精度），但随机顺序之间的精度会发生变化。

问题是，这应该发生吗？我看不出理论如何支持这一点。我在这里遗漏了一些大的东西？

PS。我正在使用 WEKA 的 MLP 实现

4

1 回答 1

0

我不熟悉 MLP 的 WEKA 实现，但这似乎不是神经网络算法应该发生的事情。

似乎它陷入了某种局部最小值。该算法可能每次都以相同的方式初始化各个神经元的权重。更改参数顺序可能会导致算法每次针对某个参数顺序得出相同的答案，具体取决于初始参数顺序。“局部最小值”可能由算法每次仅经过一定次数的迭代来确定。

于 2012-11-10T17:09:55.980 回答