非参数回归

非参数回归指的是一类回归分析，其中的预测子不是预先确定的，而根据从数据中获得的信息。也就是说，预测子与因变量之间的关系不会假定为参数形式。非参数回归需要更大的样本量，因为数据必须提供参数模型结构和模型估计值。

定义
非参数回归中，有随机变量X、Y，并假设其关系如下：
:
\mathbb{E}[Y\mid X=x] = m(x),

其中m(x)是某个确定函数。线性回归也是非参数回归的一种，m(x)假定为仿射。
有些学者使用了稍强的加性噪声假设：
:
Y = m(X) + U,

其中随机变量U是“噪声项”，均值为0.
若不假设m属于特定的函数参数族，就不可能得到m的无偏估计，但大多数估计量在适当条件下都是一致的。

通用非参数回归算法列表
这是非参数回归模型的非详尽列表。

• 最邻近法，参考[{最近邻插值}]]和K-近邻算法
• 决策树学习
• 核回归
• 局部回归
• 多元自适应回归样条
• 平滑样条
• 神经网络

例子
高斯过程回归/克里金法
高斯过程回归也称克里金法，假设回归曲线的先验为正态分布，并假设误差遵循多元正态分布，回归曲线由后验模式估计。正态先验可能取决于未知的超参数，可用经验贝叶斯方法估计。
超参数通常指定一个先验协方差核。若核也要从数据中进行非参数推断，则可使用临界滤波器。

平滑样条法可解释为高斯过程货柜的后验模式。

核回归
核回归用核函数卷积数据点位置，从有限的数据点中估计连续因变量。近似地说，核函数说明了“模糊”数据点影响的方法，以便用它们的值预测附近位置的值。
回归树
决策树学习算法可以从数据中学习，以预测因变量。虽然最初的分类回归树（CART）公式仅适用于预测单变量数据，该框架也可用于预测多变量数据，包括时间序列。

另见

• Lasso算法
• 局部回归
• 非参数统计
• 半参数回归
• 保序回归
• 多元自适应回归样条法

参考文献
阅读更多
*
*
*
*
*

外部链接
*[http://www.hyperniche.com/ HyperNiche, software for nonparametric multiplicative regression] .
*[http://www.cs.tut.fi/~lasip Scale-adaptive nonparametric regression] (with Matlab software).