0

我目前正在使用对数似然函数的直接优化（通过前向后向算法）来估计具有许多参数的马尔可夫切换模型。我使用 matlab 的遗传算法进行数值优化，因为其他方法，例如 fmincon 和 fminsearchbnd 中的（主要是梯度或基于单纯形的）算法并不是很有用，因为似然函数不仅维度非常高，而且还显示了许多局部最大值并且是高度非线性的。遗传算法似乎工作得很好。但是，我计划进一步增加问题的维度。我读过关于估计马尔可夫切换模型的 EM 算法。据我了解，该算法释放了一系列增加的对数似然值。因此，估计具有非常多参数的模型似乎是合适的。

我的问题是 EM 算法是否适合我涉及许多参数的应用程序（也许更适合作为遗传算法）。速度不是主要限制（遗传算法已经非常慢），但我需要有一些确定性才能最终接近全局最优并且不会遇到许多局部最优之一。您对此有什么经验或建议吗？

4

1 回答 1

0

EM 算法找到局部最优值，并且不保证它们是全局最优值。实际上，如果您从其中一个转移概率为零的 HMM 开始，则该概率通常永远不会从零开始变化，因为这些转移只会在期望步骤中出现期望为零的情况，因此这些起点没有希望寻找一个不具有该转移概率为零的全局最优值。

对此的标准解决方法是从各种不同的随机参数设置开始，选择找到的最高局部最优值，并希望获得最好的结果。如果大部分运行收敛到相同（或等效）找到的最佳局部最优值，您可能会稍微放心，基于不太可靠的理论，即至少可以从相同比例的随机开始中找到更好的东西，所以早就出现了。

我没有详细研究过，但是 EM 算法解决了这样一组一般性问题.

于 2016-03-12T19:05:06.247 回答