Hinge loss
在機器學習中,鉸鏈損失是一個用於訓練分類器的損失函數。鉸鏈損失被用於「最大間格分類」,因此非常適合用於支持向量機 (SVM)。 对于一个预期输出 t={\pm}1,分类结果 y 的鉸鏈損失定義為 :\ell(y) = \max(0, 1-t \cdot y) 特別注意:以上式子的y應該使用分類器的「原始輸出」,而非預測標籤。例如,在線性支持向量機當中,y = \mathbf{w} \cdot \mathbf{x} + b,其中 (\ma…
共 4 篇文章
在機器學習中,鉸鏈損失是一個用於訓練分類器的損失函數。鉸鏈損失被用於「最大間格分類」,因此非常適合用於支持向量機 (SVM)。 对于一个预期输出 t={\pm}1,分类结果 y 的鉸鏈損失定義為 :\ell(y) = \max(0, 1-t \cdot y) 特別注意:以上式子的y應該使用分類器的「原始輸出」,而非預測標籤。例如,在線性支持向量機當中,y = \mathbf{w} \cdot \mathbf{x} + b,其中 (\ma…
在机器学习中,-{zh-cn:支持向量机; zh-tw:支援向量機; zh-hk:支援向量機;}- (-{zh-cn:台湾称支援向量機; zh-tw:中國大陸稱支持向量机}-,,常简称為SVM,又名支援向量网络,当数据未被标记或者仅一些数据被标记时,支援向量聚类经常在工业应用中用作分类步骤的预处理。 动机 将数据进行分类是机器学习中的一项常见任务。 假设某些给定的数据点各自属于两个类之一,而目标是确定新数据点将在哪个类中。对于支持向量机…
序列最小优化算法(, SMO)是一种用于解决支持向量机训练过程中所产生优化问题的算法。SMO由微软研究院的約翰·普拉特于1998年发明,目前被广泛使用于SVM的训练过程中,并在通行的SVM库LIBSVM中得到实现。1998年,SMO算法发表在SVM研究领域内引起了轰动,因为先前可用的SVM训练方法必须使用复杂的方法,并需要昂贵的第三方二次规划工具。而SMO算法较好地避免了这一问题。 问题定义 SMO算法主要用于解决支持向量机目标函数的最…
在机器学习中,(高斯)径向基函数核(),或称为RBF核,是一种常用的核函数。它是支持向量机分类中最为常用的核函数。 关于两个样本x和x'的RBF核可表示为某个“输入空间”(input space)的特征向量,它的定义如下所示: :K(\mathbf{x}, \mathbf{x'}) = \exp\left(-\frac{||\mathbf{x} - \mathbf{x'}||_2^2}{2\sigma^2}\right) \textst…