360SDN.COM

机器学习算法实践-Platt SMO和遗传算法优化SVM

来源:Python中文社区  2017-11-16 11:35:19    评论:0点击:

專 欄

 
PytLab,Python 中文社区专栏作者。主要从事科学计算与高性能计算领域的应用,主要语言为Python,C,C++。熟悉数值算法(最优化方法,蒙特卡洛算法等)与并行化 算法(MPI,OpenMP等多线程以及多进程并行化)以及python优化方法,经常使用C++给python写扩展。
知乎专栏:化学狗码砖的日常

blog:http://pytlab.org

github:https://github.com/PytLab

?

前言

之前实现了简单的SMO算法来优化SVM的对偶问题,其中在选取的时候使用的是两重循环通过完全随机的方式选取,具体的实现参考《机器学习算法实践-SVM中的SMO算法》。

本文在之前简化版SMO算法的基础上实现了使用启发式选取 对的方式的Platt SMO算法来优化SVM。另外由于最近自己也实现了一个遗传算法框架GAFT,便也尝试使用遗传算法对于SVM的原始形式进行了优化。

对于本文算法的相应实现,参考:https://github.com/PytLab/MLBox/tree/master/svm
遗传算法框架GAFT项目地址:https://github.com/PytLab/gaft

正文 
SMO中启发式选择变量

在SMO算法中,我们每次需要选取一对来进行优化,通过启发式的选取我们可以更高效的选取待优化的变量使得目标函数下降的最快。

针对第一个 和第二个Platt SMO采取不同的启发式手段。

第一个变量的选择

第一个变量的选择为外循环,与之前便利整个 列表不同,在这里我们在整个样本集和非边界样本集间进行交替:

1、首先我们对整个训练集进行遍历, 检查是否违反KKT条件,如果改点的,违反了KKT条件则说明改点需要进行优化。
Karush-Kuhn-Tucker(KKT)条件是正定二次规划问题最优点的充分必要条件。针对SVM对偶问题,KKT条件非常简单:

 

2、在遍历了整个训练集并优化了相应的αα后第二轮迭代我们仅仅需要遍历其中的非边界αα. 所谓的非边界就是指那些不等于边界0或者C的值。 同样这些点仍然需要检查是否违反KKT条件并进行优化.

 

 

之后就是不断地在两个数据集中来回交替,最终所有的 都满足KKT条件的时候,算法中止。

为了能够快速选取有最大步长的 ,我们需要对所有数据对应的误差进行缓存,因此特地写了个SVMUtil类来保存svm中重要的变量以及一些辅助方法:

下面为第一个变量选择交替遍历的大致代码,相应完整的Python实现(完整实现见https://github.com/PytLab/MLBox/blob/master/svm/svm_platt_smo.py):

第二个变量的选择

SMO中的第二个变量的选择过程为内循环,当我们已经选取第一个 之后,我们希望我们选取的第二个变量优化后能有较大的变化。根据我们之前推导的式子

可以知道,新的的变化依赖于, 当 为正时, 那么选择最小的作为,通常将每个样本的缓存到一个列表中,通过在列表中选择具有来近似最大化步长。

有时候按照上述的启发式方式仍不能够是的函数值有足够的下降,这是按下述步骤进行选择:

在非边界数据集上选择能够使函数值足够下降的样本作为第二个变量 
如果非边界数据集上没有,则在整个数据仅上进行第二个变量的选择 
如果仍然没有则重新选择第一个

第二个变量选取的Python实现:

KKT条件允许一定的误差

在Platt论文中的KKT条件的判断中有一个tolerance允许一定的误差,相应的Python实现:

关于Platt SMO的完整实现详见:https://github.com/PytLab/MLBox/blob/master/svm/svm_platt_smo.py

针对之前的数据集我们使用Platt SMO进行优化可以得到:

将分割线和支持向量可视化:

 

可见通过Platt SMO优化出来的支持向量与简化版的SMO算法有些许不同。

使用遗传算法优化SVM

由于最近自己写了个遗传算法框架,遗传算法作为一个启发式无导型的搜索算法非常易用,于是我就尝试使用遗传算法来优化SVM。

使用遗传算法优化,我们就可以直接优化SVM的最初形式了也就是最直观的形式:

 

顺便再安利下自己的遗传算法框架,在此框架的帮助下,优化SVM算法我们只需要写几十行的Python代码即可。其中最主要的就是编写适应度函数,根据上面的公式我们需要计算数据集中每个点到分割线的距离并返回最小的距离即可,然后放到遗传算法中进行进化迭代。

遗传算法框架GAFT项目地址:https://github.com/PytLab/gaft , 使用方法详见README。

Ok, 我们开始构建种群用于进化迭代。

创建个体与种群

对于二维数据点,我们需要优化的参数只有三个也就是和 b , 个体的定义如下:

种群大小这里取600,创建种群

创建遗传算子和GA引擎

这里没有什么特别的,直接使用框架中内置的算子就好了。

适应度函数

这一部分只要把上面svm初始形式描述出来就好了,只需要三行代码:

开始迭代

这里迭代300代种群

绘制遗传算法优化的分割线

得到的分割曲线如下图:

完整的代码详见:https://github.com/PytLab/MLBox/blob/master/svm/svm_ga.py

总结

本文对SVM的优化进行了介绍,主要实现了Platt SMO算法优化SVM模型,并尝试使用遗传算法框架GAFT对初始SVM进行了优化。

参考


 

 
    

Python 中 文 社 区

Python中文开发者的精神家园

合作、投稿请联系微信:

pythonpost

— 人生苦短,我用Python —
1MEwnaxmMz7BPTYzBdj751DPyHWikNoeFS
 
 
 
 

本文为作者原创作品,未经作者授权同意禁止转载

 

 

阅读原文

为您推荐

友情链接 |九搜汽车网 |手机ok生活信息网|ok生活信息网|ok微生活
 Powered by www.360SDN.COM   京ICP备11022651号-4 © 2012-2016 版权