[发明专利]基于双支持向量机概率输出的多类脑电模式在线识别方法

摘要

本发明涉及一种基于双支持向量机概率输出的多类脑电模式在线识别方法。EEG信号具有高度非平稳性、时变性和个体差异性，容易随时间产生不同程度的波动，而现有的多数脑电信号分类方法自适应能力较差。本发明建立了双支持向量机概率输出模型，在此基础上引入增量学习方法，实现了多类脑电模式的在线识别。先建立双支持向量机初始分类模型，通过Sigmoid概率输出建模方法求得EEG信号属于各个类别的概率，并将该信号归为概率最大的类别，然后引用增量学习方法将满足一定条件的EEG信号加入到训练集中来更新分类模型，以最新的分类模型对信号进行识别。本发明方法不仅减少训练时间，提高分类速度，而且具有较好的自适应能力。

主权项

基于双支持向量机概率输出的多类脑电模式在线识别方法，其特征在于该方法包括如下步骤：步骤一：建立TWSVM初始分类模型；设EEG信号样本集为(x_i,y_i)，x_i∈Rⁿ，y∈{+1,‑1}是类别标号，有m₁个+1类和m₂个‑1类，m₁+m₂＝m；矩阵表示+1类的训练样本，矩阵表示‑1类的训练样本；线性TWSVM的正负超平面为$f_k\left(x\right)=w_k^{T}x+b_k=0,$   (1)k＝1,2上述超平面问题可转化为如下两个QP问题：$\underset{w_1,b_1,{\mathrm{\ξ}}_2}{\min }\frac{1}{2}{\left|\right|{\mathrm{Aw}}_1+e_1{b}_1\left|\right|}^2+c_1{e}_2^T{\mathrm{\ξ}}_2$   (2)s.t‑(Bw₁+e₂b₁)+ξ₂≥e₂,ξ₂≥0$\underset{w_2,b_2,{\mathrm{\ξ}}_1}{\min }\frac{1}{2}{\left|\right|{\mathrm{Bw}}_2+e_2{b}_2\left|\right|}^2+c_2{e}_1^T{\mathrm{\ξ}}_1$   (3)s.t(Aw₂+e₁b₂)+ξ₁≥e₁,ξ₁≥0其中，c₁＞0，c₂＞0为惩罚参数，ξ₁,ξ₂分别表示两类之间的间隔松弛变量，e₁,e₂为两个适当维数的单位列向量；由牛顿法或共轭梯度法对式(2)和(3)中两个QP问题进行求解，最终可得到[w_k^T,b_k]的最优解为[w_k^*T,b^*_k]；求解完上述问题后，得到的最优分类函数是：$f\left(x\right)=\underset{k=\mathrm{1,2}}{\min }{s}_k\left(x\right)=\underset{k=\mathrm{1,2}}{\min }\frac{|{w^{*}}_k^T\·x_i+{b^{*}}_k|}{\left|\right|{w^{*}}_k\left|\right|}$   (4)式(4)表示样本离哪类所对应的超平面近则归为哪一类；采用“一对一”分类策略将两类问题扩展到多类问题，具体是：对于N个类别的样本进行两两区分，共构造N(N‑1)/2个TWSVM分类器，组合这些分类器并使用投票法对样本进行分类，最终得票最多的类为样本所属的类别；步骤二：以TWSVM为基础，建立TWSVM的概率输出模型，求得EEG信号属于各个类别的概率，并将该新信号归为概率最大的类别；通过式(4)判断得到的只是样本的标签，属于硬输出，还未求出样本属于各个类别的概率，还需要构建TWSVM的概率输出模型；根据式(1)中参数的最优解可得线性TWSVM的最佳正负超平面为：${f_k}^{*}\left(x\right)=w_k^{*T}x+{b_k}^{*}=0$   (5)k＝1,2样本x_i属于某一确定类的可能性由它相对于分离超平面的位置决定，分离超平面方程可以表示如下：$f_3\left(x\right)=\frac{{f_1}^{*}\left(x\right)}{\left|\right|{w_1}^{*}\left|\right|}+\frac{{f_2}^{*}\left(x\right)}{\left|\right|{w_2}^{*}\left|\right|}=0$   (6)$f_4\left(x\right)=\frac{{f_1}^{*}\left(x\right)}{\left|\right|{w_1}^{*}\left|\right|}-\frac{{f_2}^{*}\left(x\right)}{\left|\right|{w_2}^{*}\left|\right|}=0$   (7)现定义如下距离参数d和D，d＝min{D₊,D_‑}   (8)D＝max{D₊,D_‑}   (9)其中，D₊、D_‑分别表示x_i离分离超平面的距离，$D_{+}=\frac{\left|f_3\left(x_i\right)\right|}{\sqrt{2+\frac{2\left(w_1^{*T}{w_2}^{*}\right)}{\left|\right|{w_1}^{*}\left|\right|\left|\right|{w_2}^{*}\left|\right|}}}$   (10)$D_{-}=\frac{\left|f_4\left(x_i\right)\right|}{\sqrt{2-\frac{2\left(w_1^{*T}{w_2}^{*}\right)}{\left|\right|{w_1}^{*}\left|\right|\left|\right|{w_2}^{*}\left|\right|}}}$   (11)这里，当d或d/(D‑d)越大，x_i属于某一类的概率越高，所以x_i的概率输出表示为:$g\left(x_i\right)=\left\{\begin{array}{cc}d\left(\frac{d}{D-d}\right)& \frac{s_1\left(x_i\right)}{s_2\left(x_i\right)}\<1,\\ 0& \frac{s_1\left(x_i\right)}{s_2\left(x_i\right)}=1,\\ -d\left(\frac{d}{D-d}\right)& \frac{s_1\left(x_i\right)}{s_2\left(x_i\right)}>1\end{array}\right.$   (12)根据后验概率设计方法，采用Sigmoid函数作为连接函数把g(x_i)映射到[0,1]得到概率值，求得EEG信号属于各个类别的概率，并将该新信号归为概率最大的类别；步骤三：引用增量学习方法,建立基于双支持向量机概率输出的在线分类模型，将满足一定条件的EEG信号样本加入到训练集中来更新分类模型，以最新的分类模型对EEG信号进行识别；此处的模型更新可以理解为QP问题的在线更新，主要指的是式(2)和式(3)中的训练样本集A、B会随着新增样本的不断加入而更新，然后以新的训练样本模型求解两式的QP问题，进而使两式中的w₁,w₂,b₁,b₂等参数在线更新优化；采用SOR算法进行上述参数的求解；设新增EEG信号样本为x_i+1，类别标签为y_i+1∈{‑1,+1}，当加入x_i+1时，给出判别式：y_i+1(|x_i+1w₁+b₁|‑|x_i+1w₂+b₂|)≥‑1   (13)模型更新的流程如下：1)将新样本x_i+1送进分类器，建立初始分类模型，通过式(12)求出其概率输出函数，进而得到其属于每一类的后验概率，再根据后验概率的大小，判断类别标签y_i+1；2)检验x_i+1是否满足判别条件(13)，若满足则进入下一步更新分类模型；否则分类模型不更新，接收下一个样本，返回上一步；3)若y_i+1＝1，则更新式(2)中的训练样本矩阵A为A^*；若y_i+1＝‑1，则更新式(3)中的训练样本矩阵B为B^*；4)用SOR算法对更新过的式(2)和式(3)求解在线更新的QP问题，由于SOR线性收敛，最终可求得最优解为实现分类模型的更新。