虚拟变量
虚拟变量（），又稱哑变量，指在统计学和计量经济学，尤其是迴歸分析中僅取0或1的值，以此表示某些可能改变结果的定性效应之有无的变量。可以认为，虚拟变量是回归模型中用数字来替代并表示定性事实，从而将数据分为互斥的类别（如吸烟者及非吸烟者）。 虚拟自变量（又称虚拟解释变量）取值为0时，该变量的系数对因变量没有影响，而当虚拟变量取值为1时，其系数会改变截距。例如，假定某人是否为某组的成员是与回归相关的定性变量之一，如果属于该组成员以1代表，则其…
标签：#迴歸變數選擇
共 7 篇文章
模型选择
模型选择（）是在给定数据的情况下，在一组候选模型中选定最优模型的过程。在最简单的情形之下，给定数据可以是已存在的数据。不过，在复杂的情形下，模型选择也可能牵涉到实验设计，以便能够来进行模型选择。诸多候选模型的预测或解释能力相近時，根据奥卡姆剃刀原则，最简单的模型往往是最好的选择，这有助于避免过拟合。 在时，或是在不确定条件下进行优化时，模型选择也可以指代从大量计算模型中选取少数代表性模型的问题。 参考文献
贝叶斯信息量准则
在统计学当中，贝叶斯信息量准则（或者：Schwarz information criterion；缩写：BIC、SIC、SBC、SBIC）是在有限集合中进行模型选择的准则：BIC最低的模型是最好的。该准则部分基于似然函数并与赤池信息量准则（AIC）紧密相关。 該準則由數學家Gideon E. Schwarz於1978年提出，因使用英国统计学家托马斯·贝叶斯的贝叶斯推断而得名。 拟合模型时，增加参数可提高似然，但如此下去可能导致过拟合。B…
偏差信息量准则
偏差信息量准则（，DIC）是等级模型化的赤池信息量准则（AIC），被广泛应用于由马尔可夫链蒙特卡洛（MCMC）所模拟的后验分布的贝叶斯模型选择问题。然而，該項准則由於與赤池信息量准则同为僅随样本容量增加的渐近近似，因此只可应用于后验分布呈多元正态分布的情况。 定义 定义偏差（）为 D(\theta)=-2\log(p(y|\theta))+C，其中 y 为数据，\theta 是模型中的未知参量，p(y|\theta) 是似然函数，C 是…
赤池信息量准则
赤池信息量准则（，简称AIC）是評估統计模型的复杂度和衡量统计模型「擬合」資料之优良性（，白話：合身的程度）的一种标准，是由日本统计学家赤池弘次创立和发展的。赤池信息量准则建立在信息熵的概念基础上。 AIC 在一般的情况下，AIC可以表示为： :AIC = 2k - 2\ln(L)\, 其中：K是参数的数量，L是似然函数。 假设条件是模型的误差服从独立正态分布。 让n为观察数，RSS为残差平方和，那么AIC变为： :AIC=2k + n…
交叉驗證
交叉验证，有時亦稱循環估計， 是一種統計學上將数据樣本切割成較小子集的實用方法。於是可以先在一個子集上做分析，而其它子集則用來做後續對此分析的確認及驗證。一開始的子集被稱為訓練集。而其它的子集則被稱為驗證集或測試集。交叉验证的目的，是用来给模型作训练的新数据，测试模型的性能，以便減少诸如过拟合和选择偏差等問題，并给出模型如何在一个独立的数据集上通用化（即，一个未知的数据集，如实际问题中的数据）。 交叉驗證的理論是由所開始的。它對於防範根…
最小角回归
统计学中，最小角回归（英语：least-angle regression (LARS)）是一种对高维数据进行线性回归的算法，由布莱德利·埃夫隆等人提出。 在线性回归中，因变量由一组自变量的线性组合表达，这些自变量可能是协变量，也有可能与因变量无关。最小角算法不会像传统算法那样给出自变量的向量表达，而是对每个参数向量的L1范数的值给出一条曲线。 参考文献