[发明专利]一种改进的极速学习装置及其模式分类方法有效
申请号: | 201410116579.8 | 申请日: | 2014-03-26 |
公开(公告)号: | CN103914711B | 公开(公告)日: | 2017-07-14 |
发明(设计)人: | 苗军;朱文涛;卿来云 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06K9/66 | 分类号: | G06K9/66;G06N3/12 |
代理公司: | 北京律诚同业知识产权代理有限公司11006 | 代理人: | 祁建国,梁挥 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 改进 学习 模型 及其 模式 分类 方法 | ||
1.一种改进的极速学习装置,其特征在于,该装置分为输入层、隐含层和输出层,输入层为输入到装置的处理后的样本数据,在学习训练过程,每条样本数据会带有相应的所属类别标签,在测试过程,该装置能够输出预测所属类别标签;在隐含层,装置需要生成受限的权向量,用于隐含层的特征映射;在隐含层中,该装置会依据先前设置的激活函数,以及生成的受限的权向量,对样本做相应的变换;在学习训练过程,装置会计算出输出层的权值;在测试过程,装置会按照训练阶段得出的权值,返回预测类别标签,其中生成受限的权向量包括步骤1,从样本数据中随机抽取两个样本向量Xi1和Xi2,并生成两个[-1,1]之间的随机数wi1和wi2;
步骤2,生成一个随机权向量Wi=wi1*Xi1+wi2*Xi2,将其归一化为Wi=Wi/||Wi||,||Wi||为Wi的范数,作为从输入层到隐含层第i个神经元之间的连接权;
步骤3,循环步骤1和步骤2,直到生成p个Wi;
步骤4,根据p个Wi,构成受限的权矩阵W1=[W1,W2,…,Wp]’。
2.一种改进的极速学习装置的模式分类方法,其特征在于,该方法包括学习训练过程和测试过程两个过程,其中学习训练过程包括:
S1数据采集步骤,对数据进行统一化,得到类别向量并存储在样本矩阵中;
S2预处理步骤,对数据样本进行预处理,对数据提取特征,以及对样本矩阵进行归一化操作;
S3训练步骤,具体包括:
步骤S31,装置的初始化,用来初始化装置的参数;
步骤S32,对类别向量扩展为类别矩阵;
步骤S33,选取p个受限的权向量;
步骤S34,利用生成的受限的权向量,计算隐含层输出矩阵H;
步骤S35,获得装置参数受限的权矩阵和输出连接权值β,输出类别矩阵T=Hβ;
测试过程包括:
S4数据采集步骤,对数据进行统一化,得到类别向量并存储在样本矩阵中;
S5预处理步骤,对数据样本进行预处理,对数据提取特征,以及对样本矩阵进行归一化操作;
S6测试步骤,具体包括:
步骤S61,计算隐含层输出矩阵;
步骤S62,利用学习训练过程的输出连接权值,得到预测输出类别矩阵;
步骤S63,由预测输出类别矩阵得到预测输出类别向量;
S7预测步骤,根据预测输出类别向量,得到预测输出类别。
3.如权利要求2所述改进的极速学习装置的模式分类方法,其特征在于,步骤S33具体包括:
步骤1,从训练样本库中随机抽取两个样本向量Xi1和Xi2,并生成两个[-1,1]之间的随机数wi1和wi2;
步骤2,生成一个随机权向量Wi=wi1*Xi1+wi2*Xi2,将其归一化为Wi=Wi/||Wi||,||Wi||为Wi的范数,作为从输入层到隐含层第i个神经元之间的连接权;
步骤3,循环步骤1和步骤2,直到生成p个Wi;
步骤4,根据p个Wi,构成受限的权矩阵W1=[W1,W2,…,Wp]’。
4.如权利要求2或3所述的改进的极速学习装置的模式分类方法,其特征在于,步骤S34中,该隐含层输出矩阵H=[Φ(W1,x1),Φ(W1,x2),…,Φ(W1,xn)]’,其中Φ(W1,xi)=1/exp(W1,xi),xi为样本矩阵的一行向量,n为正整数。
5.如权利要求3所述的改进的极速学习装置的模式分类方法,其特征在于,步骤4包括通过隐含层作用后矩阵的广义逆和隐含层输出矩阵相乘,获得输出层的权值。
6.如权利要求3所述的改进的极速学习装置的模式分类方法,其特征在于,随机数wi1,wi2按照均匀分布,或者高斯分布来生成。
7.如权利要求2所述的改进的极速学习装置的模式分类方法,其特征在于,该数据包括图像信号数据、语音信号数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410116579.8/1.html,转载请声明来源钻瓜专利网。