版权归原作者所有,如有侵权,请联系我们

[科普中国]-无偏估计量

科学百科
原创
科学百科为用户提供权威科普内容,打造知识科普阵地
收藏

对于待估参数,不同的样本值就会得到不同的估计值。这样,要确定一个估计量的好坏,就不能仅仅依据某次抽样的结果来衡量,而必须由大量抽样的结果来衡量。对此,一个自然而基本的衡量标准是要求估计量无系统偏差。也就是说,尽管在一次抽样中得到的估计值不一定恰好等于待估参数的真值,但在大量重复抽样时,所得到的估计值平均起来应与待估参数的真值相同,换句话说,希望估计量的均值(数学期望)应等于未知参数的真值,这就是所谓无偏性(Unbiasedness)的要求。数学期望等于被估计的量的统计估计量称为无偏估计量。

定义设 是来自总体X的一个样本,θ是包含在总体X的分布中的待估参数。

若估计量 的数学期望 存在,且有 ,则称 是θ的无偏估计量。

实际意义在科学技术中, 称为以 作为θ的估计的系统误差,无偏估计的实际意义就是无系统误差。

例如,设总体X的均值𝜇及方差σ²都存在但均未知,因为 ,这就是说不论总体服从什么分布,其样本均值是总体均值的无偏估计,样本方差是总体方差的无偏估计。若 ,则称 是θ的渐进无偏估计量。

结论结论一设总体X的k阶中心矩 存在, 是X的一个样本,不论X服从什么分布, 的无偏估计量。特别地,不论X服从什么分布,只要E(X)存在, 总是E(X)的无偏估计。

证明

因为 与X同分布,所以

结论二对于总体X,设E(X)=𝜇,D(X)=σ²都存在,且σ²>0,若𝜇,σ²均未知,则σ²的估计量 是有偏的。另一方面,由于 ,所以 是σ²的渐进无偏估计量。

证明

因为,而

所以是σ²的有偏估计。

若在的两边同乘,即,而

可见样本方差S²可以作为方差σ²的估计,而且是无偏估计。因此常用S²作为方差σ²的估计量。从无偏估计量的角度考虑,S²比二阶中心矩作为的估计好。1

应用在实际应用中,对整个系统(整个实验)而言无系统偏差,就一次实验来讲, 可能偏大也可能偏小,实质上并说明不了什么问题,只是平均来说它没有偏差,所以无偏性只有在大量的重复实验中才能体现出来;另一方面,无偏估计只涉及一阶矩(均值),虽然计算简便,但往往会出现一个参数的无偏估计有多个,而无法确定哪个估计量好。因此,无偏性的作用在于可以把重复估计中的各次误差通过平均来消除。这并不意味着该估计量在一次使用时并能获得良好的结果。在具体问题中,无偏性是否合理,应当结合具体情况来考虑。在有些问题中,无偏性的要求可能会导出不同的结果来。2

事实上, 中的每一个均可作为θ的无偏估计量,究竟哪个估计量更合理,就看哪个估计量的观察值更接近真实值,即估计量的观察值更密集地分布在真实值附近。而方差能反映随机变量取值的分散程度,所以无偏估计以方差最小者为最好、最合理,为此后人引进了估计量的有效性概念。

本词条内容贡献者为:

王海侠 - 副教授 - 南京理工大学