Fisher信息与EM算法有什么关系?当我阅读EM算法的论文时,人们有时会讨论Fisher信息,并且有将Fisher评分法和EM算法结合在一起的算法。但是,我找不到材料清楚地说明 Fisher 信息与 EM 算法的关系以及它所起的作用?
谁能帮我理解是否有任何联系?
Fisher信息与EM算法有什么关系?当我阅读EM算法的论文时,人们有时会讨论Fisher信息,并且有将Fisher评分法和EM算法结合在一起的算法。但是,我找不到材料清楚地说明 Fisher 信息与 EM 算法的关系以及它所起的作用?
谁能帮我理解是否有任何联系?
它们通过Cramer-Rao 下界连接。这给出了作为 Fisher 信息倒数的无偏估计量的最小可能方差。
此外,theta 的最大似然估计在分布上收敛于 N(theta, 1/(fisher information))。