偏差信息量准则（，DIC）是等级模型化的赤池信息量准则（AIC），被广泛应用于由马尔可夫链蒙特卡洛（MCMC）所模拟的后验分布的贝叶斯模型选择问题。然而，該項准則由於與赤池信息量准则同为僅随样本容量增加的渐近近似，因此只可应用于后验分布呈多元正态分布的情况。
定义
定义偏差（）为 D(\theta)=-2\log(p(y|\theta))+C，其中 y 为数据，\theta 是模型中的未知参量，p(y|\theta) 是似然函数，C 是常量。
有两种计算模型参数的有效数量 p_D的方法。一种是 p_D=\bar{D}-D(\bar{\theta})，其中 \bar{\theta} 是 \theta 的期望。
第二种是 p_D = p_V = \frac{1}{2}\widehat{\operatorname{var}}\left(D(\theta)\right) 。
有效数量 p_D越大，模型的参数就越多，模型就越容易拟合数据，但也需要更小的偏差。
偏差信息量准则 \mathit{DIC} 被定义为
:\mathit{DIC} = p_D+\bar{D}，
或等效于
:\mathit{DIC} = D(\bar{\theta})+2 p_D。
从第二种定义更能看出它和赤池信息量准则的联系。
应用
一般而言，偏差信息量准则 \mathit{DIC} 的值越小，模型越好。这一准则的优点是它很容易从马尔可夫链蒙特卡洛（MCMC）模拟产生的样本中计算出来。
参见
- 赤池信息量准则
- 相对熵
参考文献
*
- Ando, T. (2010). Bayesian Model Selection and Statistical Modeling, CRC Press. Chapter 7.
*
- Claeskens, G, and Hjort, N.L. (2008). Model Selection and Model Averaging, Cambridge. Section 3.5.
*
- van der Linde, A. (2005). "DIC in variable selection", Statistica Neerlandica, 59: 45-56. doi:[https://dx.doi.org/10.1111/j.1467-9574.2005.00278.x 10.1111/j.1467-9574.2005.00278.x]
*
*
外部链接
*
评论 (0)