数理统计 第七章-参数估计.ppt
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_1.gif)
![资源得分’ title=](/images/score_05.gif)
《数理统计 第七章-参数估计.ppt》由会员分享,可在线阅读,更多相关《数理统计 第七章-参数估计.ppt(111页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、 第七章 参数估计休息休息结束结束参数估计参数估计现在我们来介绍一类重要的统计推现在我们来介绍一类重要的统计推断问题断问题 :在参数估计问题中,假定总体分在参数估计问题中,假定总体分布形式已知,未知的仅仅是一个或几布形式已知,未知的仅仅是一个或几个个参数参数。休息休息结束结束例如:估计废品率估计废品率估计年平均降雨量估计年平均降雨量休息休息结束结束估计大学生的平均身高估计大学生的平均身高休息休息结束结束参数估计问题的一般提法参数估计问题的一般提法设有一个统计总体,总体的分布函数为设有一个统计总体,总体的分布函数为 F(x,),其中,其中为未知参数为未知参数(可以是向量可以是向量).现从该总体抽
2、样,得样本:现从该总体抽样,得样本:(X1,X2,Xn)要依据该样本对参数要依据该样本对参数作出估计,或估计作出估计,或估计的某个已知函数的某个已知函数 g()。这类问题称为:。这类问题称为:参数估计参数估计休息休息结束结束参数估计点估计区间估计休息休息结束结束例例1 已知某地区已知某地区大学生的身高大学生的身高 X随机抽查随机抽查100个大学生得个大学生得100个身高数据。个身高数据。据此据此,我们应如何估计我们应如何估计 和和 呢呢?7.1 点估计的几种方法点估计的几种方法休息休息结束结束 为估计为估计 ,我们需要构造出适当的样本我们需要构造出适当的样本的函数的函数T(X1,X2,Xn),
3、每当有了样本,就每当有了样本,就代入该函数中算出一个值,用来作为代入该函数中算出一个值,用来作为 的的估计值估计值.T(X1,X2,Xn)称为参数称为参数的点估计量,的点估计量,把样本值代入把样本值代入T(X1,X2,Xn)中,中,得到得到 的一个点估计值的一个点估计值。休息休息结束结束问题是问题是:使用什么样的统计量去估计使用什么样的统计量去估计?被估计的参数被估计的参数 是一个未知常数,而估是一个未知常数,而估计量计量 T(X1,X2,Xn)是一个随机变量,是是一个随机变量,是样本的函数样本的函数,当样本取定后,它是个已知的当样本取定后,它是个已知的数值数值,这个数常称为这个数常称为 的估
4、计值。的估计值。休息休息结束结束寻求估计量的方法:1.矩估计法矩估计法2.极大似然法极大似然法3.最小二乘法最小二乘法4.贝叶斯方法贝叶斯方法休息休息结束结束1.替换原理和矩估计法替换原理和矩估计法矩估计法矩估计法是基于一种简单的是基于一种简单的“替换替换”思想建立起来的一种估计方法思想建立起来的一种估计方法.是英国统计学家是英国统计学家K.皮尔逊皮尔逊最早提出的最早提出的.其基本思想是其基本思想是用样本矩估计总体矩用样本矩估计总体矩。理论依据理论依据:大数定律大数定律休息休息结束结束记总体记总体k阶矩为阶矩为样本样本k阶矩为阶矩为记总体记总体k阶中心矩为阶中心矩为样本样本k阶中心矩为阶中心矩
5、为休息休息结束结束用相应的样本矩去估计总体矩的估计方法就称为矩估计法。休息休息结束结束最常用的是:最常用的是:休息休息结束结束 例例2 设总体设总体X的概率密度为的概率密度为是未知参数是未知参数,其中其中X1,X2,Xn是取自是取自X的样本的样本,求参数求参数 的矩估计的矩估计.解解:从从 中解得中解得 休息休息结束结束的矩估计的矩估计.即为即为得:得:由矩法由矩法,休息休息结束结束 例3 设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本其中其中 0,求求 的矩估计的矩估计.解解:休息休息结束结束休息休息结束结束休息休息结束结束?休息休息结束结束休息休息结束结束 矩法的矩法的优点
6、优点是简单易行是简单易行,并不需要并不需要事先知道总体是什么分布事先知道总体是什么分布。缺点缺点是,当总体类型已知时,没有是,当总体类型已知时,没有 充分利用分布提供的信息充分利用分布提供的信息.一般场合下一般场合下,矩估计量不具有唯一性矩估计量不具有唯一性。休息休息结束结束 2.最大似然法最大似然法是是在在总总体体类类型型已已知知条条件件下下使使用用的的一一种参数估计方法种参数估计方法。它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的年提出的,费歇费歇在在1922年重新发现了这年重新发现了这一方法,并首先研究了这一方法,并首先研究了这 种方法的一些种方法的一些性质性质。休
7、息休息结束结束 最大似然法的基本思想:已发生的事件具有最大概率。休息休息结束结束 先看一个简单例子:先看一个简单例子:在军训时,某位同学与一位教官同在军训时,某位同学与一位教官同时射击,而在靶纸上只留下一个弹孔。时射击,而在靶纸上只留下一个弹孔。如果要你如果要你推测推测,是谁打中的呢?,是谁打中的呢?你会如何想呢你会如何想呢?休息休息结束结束一般地,假设一般地,假设X 为离散型总体:为离散型总体:休息休息结束结束已发生的事件为:已发生的事件为:其概率为:其概率为:休息休息结束结束我们的任务是:我们的任务是:休息休息结束结束假设假设X 为连续型总体:为连续型总体:已发生的事件为:已发生的事件为:
8、休息休息结束结束其概率为:其概率为:休息休息结束结束我们的任务是:我们的任务是:休息休息结束结束称称 为为似然函数似然函数 称满足称满足 的的 为为 的最大似然估计值。的最大似然估计值。称称 为为 的最大似然估计的最大似然估计量(量(MLE).休息休息结束结束 例例4 设总体设总体 X B(1,p)的一个样本,求的一个样本,求参数参数 p 的极大似然估计的极大似然估计.解:解:X01P1-pp1.休息休息结束结束3.2.4.5.休息休息结束结束例例5设总体设总体其中其中 0,求求 的最大似然估计的最大似然估计.解:解:1.休息休息结束结束2.3.4.5.休息休息结束结束1)在总体分布中,把概率
9、函数在总体分布中,把概率函数(或密度或密度)中中自变量看成已知常数自变量看成已知常数,而把参数而把参数 看作自看作自变量导出变量导出似然函数似然函数 L();求极大似然估计(求极大似然估计(MLE)的一般步骤:的一般步骤:2)求似然函数求似然函数L()的最大值点的最大值点(常常转化常常转化为求为求ln L()的最大值点的最大值点),即,即 的的MLE;3)在最大值点的表达式中在最大值点的表达式中,用子样代入就得用子样代入就得参数参数 的极大似然估计量的极大似然估计量休息休息结束结束两点说明1、求似然函数求似然函数L()的最大值点,通过求的最大值点,通过求解似然方程:解似然方程:得到得到 的的M
10、LE。若若 是向量,上述方程必须用似然方程是向量,上述方程必须用似然方程组代替组代替。休息休息结束结束2、用上述求导方法求参数的用上述求导方法求参数的MLE有时行不通,这时要用最大似然原则有时行不通,这时要用最大似然原则来求来求。休息休息结束结束解:解:例例6 设总体设总体 其中参数其中参数 未知,使用最大似然估计法求未知,使用最大似然估计法求 的估计的估计量。量。休息休息结束结束休息休息结束结束返回返回休息休息结束结束例例7 其中其中 0,求求 的极大似然估计。的极大似然估计。解:解:i=1,2,n休息休息结束结束i=1,2,n休息休息结束结束(1)(2)由由(1)得得是是 的的增函数增函数
11、休息休息结束结束故使故使 达到最大的达到最大的 即即 的的MLE,休息休息结束结束极大似然估计的一个性质极大似然估计的一个性质:设设 的函数的函数 g=g()是是 上的实值上的实值函数函数,且有唯一反函数且有唯一反函数。如果。如果 是是 的极大的极大似然估计,则似然估计,则 g()也是也是 g()的极大似然的极大似然估计。估计。休息休息结束结束 例例8 一罐中装有白球和黑球,有放回地抽取一罐中装有白球和黑球,有放回地抽取一个容量为一个容量为n 的样本,其中有的样本,其中有 k 个白球,求个白球,求罐中黑球与白球之比罐中黑球与白球之比 R 的极大似然估计的极大似然估计.解解:显然显然 XB(1,
12、p),由例由例 4 休息休息结束结束7.2 估计量的评价标准 评价一个估计量的好坏,不能仅仅依据评价一个估计量的好坏,不能仅仅依据一次试验的结果,而必须由多次试验结果来一次试验的结果,而必须由多次试验结果来衡量衡量。这是因为估计量是样本的函数,是随机这是因为估计量是样本的函数,是随机变量。因此,由不同的观测结果,就会求得变量。因此,由不同的观测结果,就会求得不同的参数估计值。因此一个好的估计,应不同的参数估计值。因此一个好的估计,应在多次试验中体现出优良性在多次试验中体现出优良性。休息休息结束结束常用标准:1无偏性无系统偏差无系统偏差2有效性方差小方差小3相合性收敛性收敛性休息休息结束结束1无
13、偏性无偏性设设是未知参数是未知参数 的估计量,若的估计量,若 则称则称 为为 的无偏估计。的无偏估计。休息休息结束结束 用用样样本本均均值值作作为为总总体体均均值值的的估估计计时时,虽虽无无法法说说明明一一次次估估计计所所产产生生的的偏偏差差,但但这这种种偏偏差差随随机机地地在在 0 的的周周围围波波动动,对对同同一一统统计计问问题题大量重复使用不会产生大量重复使用不会产生系统偏差系统偏差。休息休息结束结束解:解:由例由例6 例例9 设总体设总体 其中参数其中参数 未知,使用极大似然估计法求未知,使用极大似然估计法求 的估计的估计量,并问是否为无偏估计?若不是,请修正量,并问是否为无偏估计?若
14、不是,请修正使之成为无偏估计。使之成为无偏估计。例例 6 6 休息休息结束结束无偏渐近无偏休息休息结束结束如何修正?休息休息结束结束一个参数往往有不止一个无偏估计一个参数往往有不止一个无偏估计,若若 和和 都是参数都是参数 的无偏估计量,我们可以比的无偏估计量,我们可以比较其方差的大小来决定二者谁更优较其方差的大小来决定二者谁更优。由于由于所以无偏估计以方差小者为好所以无偏估计以方差小者为好,这就引这就引出了有效性这一概念出了有效性这一概念。休息休息结束结束2有效性有效性设设 和和 都都是参数是参数 的无偏估计量,若有的无偏估计量,若有D()1 时,时,较较 更有效。更有效。休息休息结束结束(
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数理统计 第七章-参数估计 第七 参数估计
![提示](https://www.deliwenku.com/images/bang_tan.gif)
限制150内