核 (统计学)

在统计分析中，核（kernel）一词指代窗函数。在统计学的不同分支中，“核”有多种截然不同的含义。

贝叶斯统计
在统计学（尤其是贝叶斯统计）中，機率密度函數（PDF）或概率质量函数（PMF）的核是指原函数中省略掉所有与定义域变量无关的因子后剩余的部分。需要注意的是，这些被省略的因子通常是函数的參數。它们构成概率分布歸一化常數的一部分，且在许多情况下并无必要。例如，在伪随机数抽样中，大多数抽样算法会忽略归一化因子。此外，在共轭先验分布的贝叶斯分析中，计算过程通常忽略归一化因子，而仅考虑核。在计算末尾，通过检查核的形式，如果它与某种已知分布相匹配，即可还原归一化因子。若非如此，归一化因子也未必需要（例如仅需从该分布中抽样时）。

许多分布的核可以写成闭合形式，而其归一化常数则不能。

以正态分布为例，其機率密度函數为：

: p(x|\mu,\sigma^2) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}

对应的核为：

: p(x|\mu,\sigma^2) \propto e^{-\frac{(x-\mu)^2}{2\sigma^2}}

注意，指数函数前的因子虽包含参数\sigma^2，但由于它并非定义域变量x的函数，故在此省略。

模式分析
的核在核方法系列技术中得到应用，用于在隐式空间中对数据执行统计分类、迴歸分析以及聚类分析等任务。这种用法在机器学习中尤为常见。

無母數統計
核是無母數統計技术里使用的一种加权函数。它在核密度估计中用于估计随机变量的密度函數，或在核回归中估计随机变量的条件期望。核也应用于時間序列分析，在通过週期圖估计谱密度时，它被称为窗函数。另一种应用是估计点过程随时间变化的强度，此时将窗函数（即核）与时间序列数据进行卷积。

通常在进行非参数估计时，还必须指定核的宽度。

定义
核是一个非负、實值且可积的函数K。在多数应用中，通常希望该函数满足两个附加条件：

歸一化：

: \int_{-\infty}^{+\infty}K(u)\,du = 1\,;

偶函数对称性：

: K(-u) = K(u) \mbox{ for all values of } u\,.

第一个条件确保核密度估计法生成的结果是一个機率密度函數。第二个条件确保对应分布的均值与所用样本的均值相等。

如果K是一个核，那么由 K^{}(u) = \lambda K(\lambda u) （其中 \lambda > 0 ）定义的函数K 同样也是一个核。该性质可用于选择适合数据的尺度。

常用核函数
常用的核函数有多种：均匀核、三角核、埃帕内奇尼科夫（Epanechnikov）核、四次（双权）核、三立方核、三次（三权）核、高斯核、二次核以及余弦核。

在下表中，如果K具有有界的支撑集，则对于支撑集之外的 u 值， K(u) = 0 。
^3)^3
支撑集： |u|\leq1
|
| data-sort-value="0.1440329218106996" | \frac{35}{243}
| data-sort-value="0.708502024291498" | \frac{175}{247}
|99.8%
|-
!正态分布
|K(u) = \frac{1}{\sqrt{2\pi}}e^{-\frac{1}{2}u^2}
|
| data-sort-value="1" | 1\,
| data-sort-value="0.28209479177387814" | \frac{1}{2\sqrt\pi}
|95.1%
|-
!余弦
|K(u) = \frac{\pi}{4}\cos\left(\frac{\pi}{2}u\right)
支撑集： |u|\leq1
|
| data-sort-value="0.1894305308612978" | 1-\frac{8}{\pi^2}
| data-sort-value="0.6168502750680849" | \frac{\pi^2}{16}
|99.9%
|-
!逻辑斯谛分布
|K(u) = \frac{1}{e^{u}+2+e^{-u}}
|
| data-sort-value="3.289868133696453" | \frac{\pi^2}{3}
| data-sort-value="0.16666666666666666" | \frac{1}{6}
|88.7%
|-
!S型函数
|K(u) = \frac{2}{\pi}\frac{1}{e^{u}+e^{-u}}
|
| data-sort-value="2.4674011002723395" | \frac{\pi^2}{4}
| data-sort-value="0.20264236728467555" | \frac{2}{\pi^2}
|84.3%
|-
!西尔弗曼（Silverman）核
|K(u) = \frac{1}{2} e^{-\frac{\sqrt{2}}} \cdot \sin\left( \frac{\sqrt{2}}+\frac{\pi}{4}\right)
|
| data-sort-value="0" | 0
| data-sort-value="0.26516504294495535" | \frac{3\sqrt{2}}{16}
|不适用
|}

评论 (0)