一句话比较EM与最大似然估计

EM与极大似然估计都是求解模型参数θ,使采样出现的可能性最大,并且EM依赖于极大似然估计.

 

EM是在抽样有隐含未知的属性,比如西瓜的根蒂脱落,无法统计到根蒂的形状.

 

EM求解的方法需要迭代下去:

     1)也就是给出一个初始的θ,然后求解隐含变量Z的概率

     2)根据隐含变量的概率,和抽样的变量. 求解对θ做极大似然估计

反复迭代上面这2步直到收敛.

 

 

极大似然估计是在模型已知的情况下,求解模型的参数,让抽样出现的概率最大. 有点类似于已知方程了,求解方程未知数.所以极大似然估计θ值是稳定的.

 

但是对于EM,由于有未知变量的存在,所以往往初始的θ不同,导致最后收敛的结果不同.(也就是求出的结果可能是局部最优,而不是全局最优)