spiderChow
12/15/2017 - 7:03 AM

超平面

由SVM学习发现的常识缺乏

  • 超平面:

    1. 在几何体中,超平面是一维小于其环境空间的子空间。
    2. 在数学中,超平面(Hyperplane)是n维欧氏空间中余维度等于1的线性子空间。
    3. n维度的空间的一个超平面就是一个n-1维度的平面。
    4. n 维空间 F^{n} 中的超平面是由方程:a0+a1x1+a2x2+a3x3+...+anxn=0

    类比:

  1. 笛卡尔的坐标系直线中ax+by+c=0, 直线上任意一点都满足ax0+by0+c=0。而直线的法向量为(a,b), 方向向量为(b,-a).
  2. 平面ax+by+cz+d=0, 其中上面的两点为(x1,y1,z1)和(x2,y2,z2). 均满足:
    ax1+by1+cz1+d=0,
    ax2+by2+cz2+d=0.
    相减得到a(x1-x2)+b(y1-y2)+c(z1-z2)=0, i.e., wTx=0, x为平面上的一个向量,w为法向量。
  • SVM
  1. SVM最终得到了一个分类函数:g(x)=a0+a1x1+a2x2+...+anxn
  2. g(x)=0时是n维空间的一个n-1维超平面,法向量为(a1,a2,a3,...,an)=w
  3. g(x)=wTx+b [其中a0=b]
  4. x到超平面的距离,就是x-x'在法向量的上的投影 [其中,x'为超平面上的一点,满足
    wTx‘+b=0]
    distance(x,w,b)=wT(x-x') / ||w||
    = wTx+b / ||w||