algorithm - 最大似然估计器（MLE）无法预测正确答案的测试用例

Question

有人知道最大似然估计器（MLE）无法预测正确答案的一些用例场景吗？除了可能需要无限计算、样本或 NP-hard 的问题。

Answer 1

当解空间为凸圆锥时，MLE 保证收敛到正确的解。也就是说，当响应空间的曲率始终为正或负时，它会收敛到一个正确的答案。该条件可能略微过度限制。如果最优解是某种平台，那么它也应该收敛。

因此，不能保证 MLE 在其他情况下收敛。例如，如果您采用北美的海拔函数，并尝试使用 MLE 来找到最高点，那么您极不可能会收敛到 Denali。如果初始条件正确，您可能会很幸运。

那是一个连续的案例。如果响应空间中存在任何不连续性，也不能保证收敛。

Answer 2

随着您收集越来越多的数据——一致性，您通常期望 MLE 越来越接近正确答案。一种不会发生这种情况的情况是，如果您收集更多数据时未知参数的数量会增加，即使您实际上并不关心未知参数的值。http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.201.5098&rep=rep1&type=pdf - Lancaster 自 1948 年以来的附带参数问题 - 是关于此案例统计数据的调查论文，并开始举一个简单的例子（P3）。