EM算法在高斯混合模型中的应用(共5页).doc
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_05.gif)
《EM算法在高斯混合模型中的应用(共5页).doc》由会员分享,可在线阅读,更多相关《EM算法在高斯混合模型中的应用(共5页).doc(5页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、精选优质文档-倾情为你奉上EM算法在高斯混合模型中的应用1.定义对于一个随机信号生成器,假设他的模型参数为,我们能观测到的数据输出为X,不能观测到的数据输出为Y,且随机系统模型结构的概率密度函数为 (1)能够观测到的一部分数据输出数据,模型的另一部分输出数据 未知,模型的参数也未知。EM算法就是要求我们从观测数据中估计出参数。2.EM算法的描述假设每一对随机系统的输出样本对于不同的n相互独立,这样当,x和y都已知的情况下,概率也已知。未观测的输出y的概率分布也属于待求参数。根据独立性假设有: (2)3.EM算法的基本思路 基本问题是求解下面的方程的解: (3)由于X是确定量,Y是未知的,因此即
2、使给定了,也无法求得的值,因此我们只能退一步求: (4)其中 (5)表示考虑了未知数据y的所有可能的取值Y后对求平均值。最后根据log函数的单调性得到(4)的等效形式: (6)对于(6)给出的最优化问题,考虑用下面的递推算法解决,即:先给定一个估值并计算,然后更新得到并且有 (7) (8)其中,等号在时成立,即: (9)于是对的递推算法(7)可通过进行,步骤为:1) 令k=0,先给出估值 2) 然后找出满足 (10)3) k更新为k+1并返回步骤2)直到收敛 令 (11)处理后 (12)其中 (13)4.EM算法与高斯混合模型在随机系统模型中,假设是通道的随机信号生成器的概率密度函数的参数,是
3、选中通道的概率。记为。假设个随机信号生成器和通道选择随机生成器是相互独立的,从通道输出的数据的概率是: (14)不考虑通信信息,输出的概率为: (15)其中: :是第个通道随机信号生成器的参数。 :参数集合。观测数据为一批随机产生的输出信号,并且每个输出都是相互独立的,而每个输出来自哪个通道不可测。于是系统模型参数估计问题就变为通过有限的输出样本估计个通道参数.应用(12)求解,其中可以简化为:(16)其中: 这样我们把和分别放在两项里面,他们不相关,可以独立考虑。在中应用约束条件:用拉格朗日乘子优化得到:上式的含义是,选中号通道的概率估计是每个观测数据来自于通道的条件概率(根据上一次估值估算
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- EM 算法 混合 模型 中的 应用
![提示](https://www.deliwenku.com/images/bang_tan.gif)
限制150内