第10章 模式识别的理论与方法(第3讲)

5．支持向量机

支持向量机（Support Vector Machines，简称SVM方法）是实现统计学习理论的一种具体方法，其主要内容在1992年－1995年间才基本完

成，目前仍处在不断发展阶段。

可以说，统计学习理论之所以从20世纪90年代以来受到越来越多的重视，很大程度上是因为提出了支持向量机这一通用学习方法。因为从某种意义上它可以表示成类似神经网络的形式，支持向量机起初也叫支持向量网络。

支持向量机是从线性可分情况下的最优分类面（Optimal Hyperplane）提出的。考虑图10-36

中所示的二维两类线性可分情况，图中的两类点分别表示两类训练样本，H是把两类没有错

误分开的分类线，

H1、H2分别为过各类样本中离分类线最近的点

且平行于分类线的直线，和之间的距离叫做两类的分类空隙或分类间隔（margin）。所谓最

优分类线就是要求分类线不但能将两类无错误地分开，而且要使两类的分类空隙最大。前者保证经验风险最小，而分类空隙最大实际上就是使置信范围最小，从而使真实风险最小。