Lp范数

L_p-范数(英语:L_p-norm,亦称 \ell_p-范数、p-范数)是向量空间中的一组范数。L_p-范数与幂平均有一定的联系。它的定义如下:

L_p(\vec x) = \lVert\vec x\rVert_{p} = \Bigl(\sum_{i = 1}^{n}|x_{i}|^{p}\Bigr)^{1 / p},\qquad\vec x = \{x_1, x_2, \ldots, x_n\},\,p\geqslant 1.

p 的不同取值

  • {{来源请求|p = -\infty: \lVert\vec x\rVert_{- \infty} = \lim_{p \to -\infty}\Bigl(\sum\limits_{i = 1}^{n}|x_{i}|^{p}\Bigr)^{1 / p} = \min_{i}|x_i|。}}
  • p = 0:\lVert\vec x\rVert_0 = \sum_{i=1}^{n} \left[x_i \neq 0\right],也就是所有 x_i 中,不等于零的个数。注意,这里的 L_0-范数并非通常意义上的范数(不满足三角不等式或次可加性)。
  • p = 1:\lVert\vec x\rVert_1 = \sum\limits_{i = 1}^{n}|x_i|,即 L_1-范数是向量各分量绝对值之和,又称曼哈顿距离。
  • p = 2: \lVert\vec x\rVert_2 = \sqrt{\sum\limits_{i = 1}^{n}|x_i|^{2}},此即欧氏距离。
  • p = +\infty: \lVert\vec x\rVert_\infty = \lim_{p \to +\infty}\Bigl(\sum\limits_{i = 1}^{n}|x_{i}|^{p}\Bigr)^{1 / p} = \max_{i}|x_i|,此即无穷范数或最大范数,亦称切比雪夫距离。

在机器学习中的应用
在机器学习中,为了对抗过拟合、提高模型的泛化能力,可以通过向目标函数当中引入参数向量的 L_p-范数来进行正则化。其中最常用的是引入 L_1-范数的 L_1-正则项和引入 L_2-范数的 L_2-正则项;前者有利于得到稀疏解,后者有利于得到平滑解。

参考文献

评论 (0)

  • 还没有评论,来抢沙发吧。