码迷,mamicode.com
                                                                              首页 > 编程语言 > 详细

                                                                              EM算法

                                                                              时间:2018-11-26 20:58:40      阅读:23097      评论:0      收藏:0      [点我收藏+]

                                                                              标签:选择   样本   alt   高斯   技术   分类   高斯分布   一个   inf   

                                                                              EM算法:
                                                                              让期望最大化的算法
                                                                              最大似然估计:
                                                                              已知:样本服从分布的模型 观测到的样本
                                                                              求解:模型的参数

                                                                              极大似然估计是用来估计模型参数的统计学方法 就是什么参数能使得样本符合这么一个模型
                                                                              最大似然函数:什么样的参数使得出现当前这批样本概率最大 利用结果推出参数的最大值


                                                                              问题提升:
                                                                              有两个类别,这两个类别都服从高斯分布但是参数不同 抽取到的每个样本都不知道是从哪个分布抽取的
                                                                              求解目标:男生和女生对应的高斯分布的参数
                                                                              多分类的隐变量
                                                                              Z=0或Z=1标记样本来?#38405;?#20010;分布,则Z就是隐变量

                                                                              技术分享?#35745;? src=

                                                                               


                                                                              先随机初始化两个分布的参数
                                                                              先知道多大概率来自不同的类 E-step
                                                                              算这两种情况针对样本的情况,发生该样本情况时这两种发生该样本情况的概率。 PA=。。 PB=。。。选A的概率=PA/PA+PB PB=PB/PA+PB
                                                                              算出了选择AB分别对应的概率,然后再去
                                                                              A的概率乘以发生次数,这就是对应的每种硬币针对每次样本估计的结果,
                                                                              对于每个样本都这么计算A和B发生的概率,然后求期望
                                                                              通过每种硬币对应的期望,去更改初始设置的概率,此时的正面朝上就是正期望/正+反的期望
                                                                              直到最后参数发生很小的浮动 就用EM算法算出来了最后的结果 各自分布的参数

                                                                              技术分享?#35745;? src=

                                                                               技术分享?#35745;? src=

                                                                               

                                                                              EM算法

                                                                              标签:选择   样本   alt   高斯   技术   分类   高斯分布   一个   inf   

                                                                              原文地址:https://www.cnblogs.com/libin123/p/10022794.html

                                                                              (0)
                                                                              (0)
                                                                                 
                                                                              举报
                                                                              评论 一句话评论(0
                                                                              0条  
                                                                              登录后才能评论!
                                                                              ? 2014 mamicode.com 版权所有 京ICP备13008772号-2
                                                                              迷上了代码!
                                                                              宁夏11选5开奖查询