English 中文(简体)
询问关于输入矢量的 SVM 映射? 和 SVM 优化方程式
原标题:Query about SVM mapping of input vector? And SVM optimization equation

我读过很多论文, 并理解了一个支持矢量机器的基本概念。 您给它一个培训输入矢量, 它有一套功能和基础, 说明“ 优化函数” 如何评价这个输入矢量, 让它被称为 x (小标题说我们重新讨论文本分类), 与输入矢量x 相关的文本被分为两个预设的分类类别之一, 仅在二进制分类中如此 。

因此,我的“强度”第一个问题

<强度 > 第二个问题 涉及以下优化方程:

1/2wi(传输) *wi + C i = 1.n i

(笑声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声(掌声) (掌声) (掌声) (掌声) (掌声(掌声) (掌声) (掌声) (掌声(掌声) (掌声) (掌声) (掌声) (掌声) (掌声(掌声) (掌声) (掌声) (掌声) (掌声(掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声) (掌声)

如果能简单解释第二个问题,将不胜感激,因为阅读技术文件,我不太幸运地理解这个问题。

问题回答

当他们谈论到向高维空间的映射时,它们意味着内核能完成的与绘制向高维空间的点和在那里采集点产品相同。 SVMs基本上是线性分类器,但如果你使用内核,它们就会在与原始数据空间不同的空间里产生线性。

要具体化,让我们谈谈内核

K(x, y) = (xy + 1) = (xy + 1) = (xy) = 2 + 2xy + 1

x和y是每个真实数字(一维)的 x 和 y 。请注意

(x__2, sqrt(2) x, 1) □ (y__2, sqrt(2) y, 1) = x__2, y2 + 2 x y + 1)

K(x, y) = phi(x) = phi(y) 。 phi(a) = (a2, sqrt(2), 1), 使用这个内核(不相容的多元度内核2) 进行SVM, 与您首次将您的 1d 点映射到此 3d 空格, 然后绘制直线内核相同 。

Gaussian RBF核心功能的流行功能相当于将您的点绘制成一个无限维度的希尔伯特空间。

当您选择一个内核时,您就是决定它所映射到的地物空间的人。但这样做时,您不一定需要考虑清晰的绘图,但重要的是要指出,数据从未真正被明确转换为高维空间----那么无限的维点就很难代表了。 ) : :


i 是“ 黑变量 ” 。 没有这些变量, SVMs 将永远无法对培训设备进行核算, 这些培训设备不是< a href=> http:// en.wikipedia. org/wiki/Lineearly_ separable” rel = “ nofolle” >linear separable -- 大部分真实世界数据集都不存在。 从某种意义上说, “% ” 是您将数据点推向差错侧到正确一边所需要的数量 。 C 是一个参数, 它决定了您增加 { }( 这就是为什么它会在那里增加) $多少成本 。

1) 较高维度空间通过内核机制发生。然而,在评估测试样本时,无需明确计算较高维度空间。 (显然,这是因为计算机上无法代表无限维度。 )例如,弧基函数内核意味着无限的维度空间,但我们不需要明确映射到这一无限维度空间。我们只需要计算 K(x_sv,x_state),其中x_sv是支持矢量之一,x_sv是支持矢量,x_test是测试样本。

特定的较高维度空间由培训程序和参数选择,这些程序和参数选择一套支持矢量及其相应的重量。

2) C 是无法完美地对培训组进行分类的成本的相关权重。优化方程式表示在两个不良的不完美分类和低差值之间进行权衡。i变量代表的是我们在多大程度上无法对培训组的例一进行分类,即培训误差i。

在SVM S上见Chris Burges教程, 是关于你到任何地方都能得到的 最直觉的解释(海事组织)。





相关问题
Resample Filter of WEKA - How to interpret the result

I am currently strugeling with a machine learning problem whereas I have to deal with great unbalanced data sets. That is, there are six classes ( 1 , 2 ... 6 ). Unfortunately there are e.g. for class ...

How to recognize rectangles in this image?

I have a image with horizontal and vertical lines. In fact, this image is the BBC website converted to horizontal and vertical lines. My problem is that I want to be able to find all the rectangles in ...

Question About Using Weka, the machine learning tool

I m using the explorer feature of Weka for classification. So I have my .arff file, with 2 features of NUMERIC value, and my class is a binary 0 or 1 (eg {0,1}). Sample: @RELATION summary @...

Implementing a linear, binary SVM (support vector machine)

I want to implement a simple SVM classifier, in the case of high-dimensional binary data (text), for which I think a simple linear SVM is best. The reason for implementing it myself is basically that ...

libsvm model file format

According to this FAQ the model format in libsvm should be straightforward. And in fact it is, when I call just svm-train. As an example, the first SV for the a1a dataset is 1 3:1 11:1 14:1 19:1 39:...

Competitive Learning in Neural Networks

I am playing with some neural network simulations. I d like to get two neural networks sharing the input and output nodes (with other nodes being distinct and part of two different routes) to compete. ...

热门标签