理论--线性可分数据
我们可以来观察一下下图的数据，分为蓝色圆圈和红色方框。如果使用前面学习过的kNN算法，将会根据它与周围元素的距离来决定它的类型，这样要花很多时间来计算与不同元素的距离，这样算法非常费时间，并且要记住所有特征，也需要占用很多内存。如果只考虑下图的数据排列，是否有更加聪明的方法呢？
遇到这种情况，得想别的方法。由中学的数学知识可知，一条直线可以把平面分成两部分，把这条直线用代数表示出来就是：
当我们用一个新的测试数据，然后根据函数f(x)来判断，如果f(x)大于0，它就属于蓝色圆圈；否则它就属于红色方框。因而把这条直线叫做决策边界（Decision Boundary）。使用这样一条直线是非常简单，
