[发明专利]一种使用Boosting训练集成SVM的方法、装置、终端及存储介质

说明书

本发明公开一种使用Boosting训练集成SVM的方法、装置、终端及存储介质，涉及SVM技术领域，本方法使用Boosting，对训练数据集包含的多个训练子集进行依次取样，利用标准形式的SVM进行多次迭代，以对分类错误的样本加大权重，同时完成标准SVM中参数W和B的更新，在权重达到设定阈值，标准SVM基于训练数据集包含的多个训练子集进行多次迭代后，得到具有更新参数W和B的集成SVM。本装置结合前述方法，利用获取划分模块、初始化模块、逐次迭代模块、取样处理模块、计算模块、更新模块、分类处理模块、判断循环模块得到具有更新参数W和B的集成SVM。本终端及存储介质用于调用程序执行本方法。本发明得到的集成SVM能够提高训练速度，减少使用内存。

技术领域

本发明涉及支持向量机技术领域，具体的说是一种使用Boosting训练集成SVM 的方法、装置、终端及存储介质。

背景技术

如今，机器学习算法被广泛使用在诸多应用场景中，例如手写识别，人脸识别等。其中一种算法就是支持向量机(Support Vector Machine，SVM)。支持向量机(SupportVector Machine，SVM)是Corinna Cortes和Vapnik等于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。

SVM像其它如决策树和神经网络等算法一样，需要通过训练得出算法的参数来应用于对其它数据的分类。然而，当数据量变得很大时，训练SVM会变得很困难，因为训练过程会变得过慢且需要占用大量的内存。换句话说，训练SVM的方法并不适合应用于大的训练集，而这正是要达到较高的分类准确性所需要的。

Boosting方法是一种用来提高弱分类算法准确度的方法,这种方法通过构造一个预测函数系列,然后以一定的方式将他们组合成一个预测函数Boosting思想。 Boosting的基本思想是1)先赋予每个训练样本相同的概率，2)然后进行T次迭代，每次迭代后，对分类错误的样本加大权重(重采样)，使得在下一次的迭代中更加关注这些样本。

发明内容

本发明针对大规模的训练数据集上训练SVM耗费时间长、需要内存大的问题，提供一种使用Boosting训练集成SVM的方法、装置、终端及存储介质。

首先，本发明公开一种使用Boosting训练集成SVM的方法，解决上述技术问题采用的技术方案如下：

一种使用Boosting训练集成SVM的方法，该方法使用Boosting，对训练数据集包含的多个训练子集进行依次取样，利用标准形式的SVM进行多次迭代，以对分类错误的样本加大权重，同时完成标准SVM中参数W和B的更新，在权重达到设定阈值，标准SVM基于训练数据集包含的多个训练子集进行多次迭代后，得到具有更新参数W 和B的集成SVM。

具体的，该方法的实现流程包括：

步骤S10、获取训练数据集D，将训练数据集D随机均分为多个训练子集，每个训练子集的大小为M；

步骤S20、用均匀分布初始化一个长度为N的概率向量P，同时，初始化迭代次数iter，初始化标准形式的SVM所包含的参数W和B，使迭代次数iter、参数W和B 三者均等于0；

步骤S30、按照逐次加1的方式更新迭代次数iter；

步骤S40、从训练数据集D中取样大小为M的训练子集，并获取所取样训练子集在训练数据集D中的索引S；

步骤S50、针对所取样的训练子集，利用标准形式的SVM计算本次迭代过程的参数W_i和B_i；