第六章 点估计
教学目的
1、使学员掌握参数点估计的概念及基本思想。
2、使学员牢固掌握求未知参数估计量的两种常用方法:矩法和极大似然法。 3、掌握判断估计量的三个标准:无偏性、一致性和有效性。
4、理解单参数正则分布族C-R不等式的含义,会求有效估计或有效率。 参数点估计的概念
在用数理统计方法解决实际问题时,常会碰到这类问题:由所得资料的分析,我们能基本推断出母体的分布类型,比如其概率函数(密度或概率分布的统称)为f(X,θ),但其中参数θ(一维或多维)却未知,只知道θ的可能取值范围是?,需对θ作出估计或推断。这类问题称为参数估计问题。
这类问题中的?称为参数空间,{f(x,θ), θ??}称为母体ξ的概率函数族。例如: 1、某灯炮厂生产的灯泡的使用寿命ξ据已有资料分析服从N(μ,σ2)分布,这里θ=(μ,σ2)的具体值未知,只知取值范围为(0,+∞)×(0,+∞)需对θ作估计。
这里参数空间?={(μ,σ2):0<μ<+∞,σ2>0},ξ的概率函数族为 {f(x, μ,σ2):(μ,σ2)??}而f(ξ,μ, σ2)=
12??e??x???22?2 -∞<x<+∞
2、某纺织厂细纱机上的断头次数可用Poisson分布P(λ)描述,只知λ>0,不知其值,为掌握每只纱绽在某一时间间隔内断头数K次的概率,需对λ作出推断。
这里参数空间?={λ:λ>0},ξ的概率函数族为{f(x,λ): λ??},其中f(x,λ)=P(ξ=x)=
?x
x!
e??,x=0,1,2??
一个参数估计问题就是通过子样估计出母体分布中的未知参数θ或θ的函数的问题。参数估计根据估计的形式,又分为点估计和区间估计。本章主要讨论点估计:
设母体ξ具有概率函数族{f(x,θ) θ??}θ未知待估,ξ1,ξ2,??ξ
n
是取自ξ
的子样,如我们构造一个统计量μ(ξ1,??ξn)来估计θ,(要求u的维数与θ的维数相同),则称该统计量u为θ的估计量。并记为??=u(ξ1,??ξn),对一组子样观测值(x1,??xn)代入估计量得到的值??=u(x1,??xn)称为θ的估计值。估计值和估计量统称为θ的估计。但估计是估计值(一个具体值)或是估计量(一个随机变量),可根据具体要求作判断。
1
像这类用一个统计量来估计未知参数的问题,称为参数的点估计问题。 如何求估计量呢?方法很多,下面介绍最常用的两种方法。
§6.1矩法估计
一、矩法
对于随机变量来说,矩是其最广泛,最常用的数字特征,母体ξ的各阶矩一般与ξ分布中所含的未知参数有关,有的甚至就等于未知参数。由辛钦大数律,简单随机子样构成的子样矩依概率收敛到相应的母体矩。自然会想到用子样矩替换母体的相应矩,进而找出未知参数的估计,基于这种思想求估计量的方法称为矩法。用矩法求得的估计称为矩法估计,简称矩估计。
具体作法是:
设母体ξ的概率函数为f(x,θ1,??θk),其中(θ1,??θk) ??未知待估,设 EξK=Vk存在,则当j≤K时,Eξj=Vj;必存在。
1nj令Vj(θ1,??θk)=????i j=1,2,??,k (6.1)
ni?1j?,??,?,??为θ1,θ2??,θk的解(6.1)所示的关于θ1,??θk的k个方程,则得 ?12k矩估计,(6.1)中也可用子样中心矩代母体中心矩。
例6.1设母体ξ的均值μ,方差σ2未知,ξ1, ξ2??ξ的矩估计。
解:由μ, σ2分别是ξ的一阶原点矩和二阶中心矩 根据矩法求估计的思想
n
为取自ξ的子样,求μ与σ
2
??? 令 ?2?2?Sn ?
即是μ与σ2的矩估计
?,?? 并未用到ξ的分布 注意到我们这里求出?例6.2设母体ξ服从?(p,6) 分布,其密度为
2bpp?1?bxf(x;P,6)= xe ,x>0
??p? 2
这里b>0, P>0未知待估,求其矩法估计。
分析与解:这里要估计的未知参数有两个,根据用矩法求估计的作法,应先求出ξ的两个矩,我们知道用特征函数求矩最简便,由第三章习题91(3) ξ的特征函数为:
?it??(t)??1??
?b?ip?it?∵ ?'(t)??1??b?b?i?p?1?p?p?p?1??it?, ?\(t)=?1??2b?b?ib?p?2
?\?0?p?p?1??∴Eξ= ?'(0)?p , Eξ2= 22b故Dξ=
p b22pp??2????2 ??,2?Sn 解得 b令 ,p2bbSnSn二、判断估计好坏的两个标准
上面用矩法求出的估计是否好?现介绍两个评判估计量好坏的标准。 1、一致性
定义6.1,设母体ξ具有概率函数f(x,θ),θ??为未知参数,ξ1,ξ2,??,ξ
η
??????,?,??为??的一个估计量,为子样,若对任给?>0,有 ?nn1n? 为θ的一致估计。 则称 ?n? 是θ的一致估计 按此定义,?n显然,矩估计都是一致估计。 2、无偏性
p?????? n??????limP?nn????=0
??????是母体分布所含未知参数θ??的一个估计量,若 定义6.2,设?1,?,n???]??,则称??为θ的无偏估计,否则称为有偏的。 对一切θ??均有E?[?1,?,n现在来验证母体期望Eξ=μ与方差Dξ=σ2的矩估计是否为无偏估计,由定理5.1
??????E??? ∴?是μ的无偏估计 E?1nk?k??k???i都是?k的无偏估计。类似可证母体K阶原点矩Eξ=?k的矩估计, ?ni?1K
?? 3
而 ESn??令 Sn22n?12? ∴Sn2不是σ2的无偏估计,现纠偏 nn21n?Sn??i?? ?n?1n?1i?1??2?则ESn??2
?由此得Sn是σ2的无偏估计,
22Sn2不是σ2的无偏估计,但 ESn2=
n?12???2n2?n???? 我们称Sn2为σ2
?的渐近无偏估计,当样本容量较大时,用Sn2与Sn来估计σ2差别不大,但容量n较小时,?用Sn估计σ2比用Sn2来估计σ2性能更好。
2?是有偏的,但当n→∞时,有E??→θ,则称??一般地,若未知参数θ的一个估计?为θ的渐近无偏估计。
例6.3(教材P262)
例6.4设母体ξ服从(0, θ]上的均匀分布,θ>0未知,求θ的矩估计,并验证其无偏性。
解∵Eξ=
? 2令
?????2E??2???2?为θ的矩估计,而E?=?得????? 2?2?? 是θ的无偏估计,又矩估计都是一致估计,所以,?? 是θ的一致,无偏估所以 ?计。
§6.2极大似然估计
矩法估计具有直观、简便等优点,特别求母体均值和方差的矩估计并不要求了解母体的分布,但它有缺点:对原点矩不存在的分布如哥西分布不能用,另方面它也没有充分利用母体分布F(x;θ)对θ提供的信息,下面再介绍一种求点估计的方法——最大(极大)似然法。
极大似然法最早是由CF Gauss提出的,后来R A Fisher在1912年的一篇文章中重新提出,并证明了这个方法的一些性质,极大似然估计这一名称也是由Fisher(费歇)给出的,这是目前仍得到广泛应用的一种求估计之方法,它建立在极大似然原理的基础上,即:一个
4
相关推荐: