最小方差无偏估计和有效估计.pptx

1一、均方误差准则一、均方误差准则计优劣的一个自然准则可定义如下：计优劣的一个自然准则可定义如下：称上式为称上式为均方误差均方误差，(Mean Squared Error)简记为简记为MSE。确定，即确定，即其中其中偏差偏差（bias）。）。2例例MLE的均方误差。的均方误差。解：解：解：解：3从均方误差可知，我们自然希望估计的从均方误差可知，我们自然希望估计的MSE越小越好。越小越好。对所有的对所有的 成立，成立，估计。估计。4因为因为倘若这样的估计倘若这样的估计 存在，存在，不存在。不存在。平凡估计平凡估计(Trivial Estimate)5由此可见，均方误差一致达到最小的由此可见，均方误差一致达到最小的最优估计并不存在，那么应如何评判和寻找最优估计并不存在，那么应如何评判和寻找优良的估计呢？方法之一是对估计提出一些优良的估计呢？方法之一是对估计提出一些合理性的要求，将那些诸如不合理的平凡估合理性的要求，将那些诸如不合理的平凡估计排除在外，然后在满足合理性要求的估计计排除在外，然后在满足合理性要求的估计类中寻找优良的估计。类中寻找优良的估计。无偏性无偏性便是一种常用便是一种常用的合理性要求。的合理性要求。6由定义由定义2.2可知无偏估计的均方误差就是它可知无偏估计的均方误差就是它在均方误差准则下，既然最好的估计不存在均方误差准则下，既然最好的估计不存的无偏估计（的无偏估计（一致最小方差无偏估计一致最小方差无偏估计）是否）是否那么现在的问题是对无偏估计类那么现在的问题是对无偏估计类 而而在，在，若存在，它是否是唯一的？若存在，它是否是唯一的？言，同样在均方误差（言，同样在均方误差（方差方差）准则下，最好）准则下，最好存在？存在？如何求？如何求？这些就是我们下面需要讨论的主题。这些就是我们下面需要讨论的主题。71.定义定义目的是目的是:寻找一个寻找一个最有效最有效的估计量的估计量.记为：记为：MVUE.82.3 最小方差无偏估计最小方差无偏估计 9一、最小方差无偏估计一、最小方差无偏估计 由定义由定义2.4知，最小方差无偏估计（知，最小方差无偏估计（MVUE）是在）是在无偏估计类中，使均方误差达到最小的估计量，即在无偏估计类中，使均方误差达到最小的估计量，即在均方误差最小意义下的最优估计。它是在应用中，人均方误差最小意义下的最优估计。它是在应用中，人们希望寻求的一种估计量。们希望寻求的一种估计量。1011121314 定理定理2.7给出了最小方差无偏估计的一种判别方法，给出了最小方差无偏估计的一种判别方法，但由上例可见，该判别法使用并不方便，而且还只是一但由上例可见，该判别法使用并不方便，而且还只是一个充分条件。为了寻求更好的方法，需要借助充分统计个充分条件。为了寻求更好的方法，需要借助充分统计量甚至充分完备统计量的概念。量甚至充分完备统计量的概念。1516171819202122232、有效估计、有效估计1)定义定义