在统计学中，估計量（），亦稱推定量，是基于观测数据计算某一已知量之估计值的规则：因此，估计量（规则本身）、被估量（感兴趣的未知量，）以及估计值（规则所产生的结果，）是三个相互区别的概念。例如，样本均值是总体均值的一个常用估计量。估计量分为点估计量和区间估计量：点估计量产生单一值的结果，区间估计量则产生一个包含合理值的范围。
估计量可视为一个统计量（即数据的函数），用于推断统计模型中未知参数的值。估计量本身是一个随机变量，其某一特定实现即为估计值。待估参数可以是有限维的（在参数模型和半参数模型中），也可以是无限维的（在半参数模型和非参数模型中）。估计理论关注估计量的性质，即通过定义各种性质来比较同一参数的不同估计量在不同规则下的优劣；而稳健统计则进一步权衡在严格假设下具有良好性质与在更宽泛条件下具有较差性质之间的平衡。
定义
假设存在一个固定的待估“参数”\theta，那么“估计量”是样本空间映射到样本估计值集的一个函数。\theta的一个估计量通常记为\widehat{\theta}。借助随机变量的代数来阐述较为方便：如果用X来标记对应于观测数据的随机变量，则估计量（本身视为随机变量）表示为该随机变量的函数\widehat{\theta}(X)。对某一特定观测数据值x（即X=x）而言，其估计值为一固定值\widehat{\theta}(x)。通常使用简化标记\widehat{\theta}直接表示随机变量，但这容易造成误解。
量化特性
以下定义和属性是相关的。
误差
对于一个给定样本 x ，估计量\widehat{\theta}的「误差」定义为
:e(x)=\widehat{\theta}(x) - \theta,
其中\theta是待估参数。注意误差e不仅取决于估计量（估计公式或过程），还取决于样本。
均方误差
估计量\hat{\theta}的均方误差被定义为误差的平方的期望值，即为：
: MSE(\hat{\theta})=E[(\hat{\theta}(x)-\theta)^2]
它用来显示估计值的集合与被估计单个参数的平均差异。试想下面的类比：假设“参数”是靶子的靶心，“估计量”是向靶子射箭的过程，而每一支箭则是“估计值”（样本）。那么，高均方误差就意味着每一支箭离靶心的平均距离较大，低均方误差则意味着每一支箭离靶心的平均距离较小。箭支可能集聚，也可能不。比如说，即使所有箭支都射中了同一个点，同时却严重偏离了靶子，均方误差相对来说依然很大。然而要注意的是，如果均方误差相对较小，箭支则更有可能集聚（而不是离散）。
抽样偏差
方差
偏差
bias(\hat{\theta}(x))=E[\hat{\theta}(x)]-{\theta}
各量之间的关系
均方误差、方差和偏误之间存在以下关系：
: \operatorname{MSE}(\widehat{\theta}) = \operatorname{Var}(\widehat{\theta}) + (B(\widehat{\theta}))^2,
即均方误差等于方差加偏误的平方。特别地，对于无偏估计量而言，方差等于均方误差。估计量\widehat{\theta}的标准差（方差的平方根），或对\widehat{\theta}标准差的估计，称为\widehat{\theta}的“标准误差”。
行为特性
一致性
一致估计量序列是一列随着序号（通常是样本容量）无限增大时依概率收敛于被估量的估计量序列。换句话说，增加样本容量增大了估计量接近总体参数的概率。
在数学上，一个估计量序列{{nowrap|{tn; n ≥ 0}}}是参数θ的一致估计量当且仅当对于所有，不管多小，我们都有
:
\lim_{n\to\infty}\Pr\left\{
\left
|t_n-\theta\right|
就如，一个人不断地抛硬币，随着次数的增多，任何一面出现的概率（机率）就会趋于0.5。那么这个0.5就是这个抛硬币事件中任何一面出现概率的一致估计量，或者说一致估计值。
费希尔一致性
如果一个估计量是经验分布函数的相同泛函，一如它是真实分布函数的泛函，则该估计量可视为费希尔一致的。依照公式：\widehat{\theta} = h(T_n)，\theta = h(T_\theta)，其中T_n和T_\theta分别是经验分布函数和理论分布函数。例如，验证均值\widehat{\mu} = \bar{X}和方差\widehat{\sigma}^2 = SSD/n的费希尔一致性，即是相应的简单示例。
渐近正态性
一个渐近正态估计量是一个一致估计量，其围绕真值\theta的分布随着样本容量增大而趋近于正态分布，标准差以1/\sqrt{n}的比例缩小。其数学形式为
: \sqrt{n}(t_n - \theta) \xrightarrow{D} N(0,V),
其中\xrightarrow{D}表示依分布收敛，V为渐近方差。在关于数据分布的温和条件下，中心极限定理保证了样本均值作为真实均值估计量的渐近正态性；更一般地，最大似然估计量在相当弱的正则条件下也是渐近正态的。
效率
估计量的效率用于以“最小误差”的方式估计感兴趣的量。现实中没有绝对最佳的估计量，只有更好的估计量。估计量效率的高低基于特定损失函数的选择，体现于两个自然期望的性质上：无偏性\operatorname{E}[\widehat{\theta}] - \theta = 0和最小均方误差\operatorname{E}[(\widehat{\theta} - \theta)^2]。这两者通常不可兼得：一个有偏的估计量可能具有比任何无偏估计量都低的均方误差。
均方误差与偏误和方差的关系为：
: \operatorname{E}[(\widehat{\theta} - \theta)^2] = (\operatorname{E}[\widehat{\theta}] - \theta)^2 + \operatorname{Var}(\widehat{\theta}).
在无偏估计量之中，通常存在一个方差最小者，称为最小方差无偏估计量（）。在某些情况下存在无偏的有效估计量，它除了在所有无偏估计量中方差最小以外，还满足克拉默-拉奥下界——这是变量统计量方差的绝对下界。
稳健性
稳健性是指估计量在数据分布偏离其假设模型时仍然保持合理性能的能力。一个稳健的估计量对离群值或模型假设的微小偏差不敏感，而一个非稳健的估计量可能在这样的条件下产生严重偏误的结果。稳健统计理论在估计量的优良性质（在严格假设下成立）与更差但在更宽泛条件下也成立的性质之间寻求平衡。
参见
参考文献
外部链接
评论 (0)