支持向量机中的函数距离和几何距离怎么理解

支持向量机中的函数距离和几何距离怎么理解

函数间隔决定了数据点被分为某一类的确信度，而几何间隔实际上就是点到（超）平面的距离。两者是一个||w||的线性关系。那些支持向量就是函数间隔（也可以说是几何间隔，因为作了归一化限制）的临界点。有了支持向量，就可以对未知点进行预测。详细可参考李航《统计学习方法》

svm是通过超平面将样本分为两类。 在超平面确定的情况下，可以相对地表示点距离超平面的远近。对于两类分类问题，如果，则的类别被判定为1；否则判定为-1。 所以如果，则认为的分类结果是正确的，否则是错误的。且的值越大，分类结果的确信度越大。反之亦然。 所以样本点与超平面之间的函数间隔定义为 但是该定义存在问题：即和同时缩小或放大m倍后，超平面并没有变化，但是函数间隔却变化了。所以，需要将的大小固定，如，使得函数间隔固定。这时的间隔也就是几何间隔 。 几何间隔的定义如下 实际上，几何间隔就是点到超平面的距离。想像下中学学习的点到直线的距离公式 所以在二维空间中，几何间隔就是点到直线的距离。在三维及以上空间中，就是点到超平面的距离。而函数距离，就是上述距离公式中的分子，即未归一化的距离。 定义训练集到超平面的最小几何间隔是 svm训练分类器的方法是寻找到超平面，使正负样本在超平面的两侧，且样本到超平面的几何间隔最大。 所以svm可以表述为求解下列优化问题 以上内容在《统计学习方法》中，均有详细的讲解。