[发明专利]基于伪逆学习的稀疏自编码器快速训练方法在审
申请号: | 201710748527.6 | 申请日: | 2017-08-28 |
公开(公告)号: | CN107480777A | 公开(公告)日: | 2017-12-15 |
发明(设计)人: | 郭平 | 申请(专利权)人: | 北京师范大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100875 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种构建深度神经网络的基本模块稀疏自编码器训练方法,目的是为了克服现有深度神经网络训练算法的不足,提供一种快速训练稀疏自编码神经网络的方法。所述快速训练稀疏自编码器的方法是采用伪逆学习算法以及有偏ReLU激活函数。以自编码器的输入数据向量的维度指导隐层神经元个数的设置,并对自编码器的输入数据的伪逆矩阵进行截断,以伪逆截断矩阵作为编码器连接权重,将输入数据经过有偏ReLU激活函数映射到隐层空间,再通过伪逆学习算法求解伪逆解进而得到解码器连接权重。所述快速训练稀疏自编码神经网络的方法不需要基于梯度下降的迭代优化过程,不需要设置控制参数,计算速度快,可以保证学习到样本的稀疏性。重构误差容易控制,易用性强,有利于硬件实现。 | ||
搜索关键词: | 基于 学习 稀疏 编码器 快速 训练 方法 | ||
【主权项】:
一种快速训练稀疏自编码神经网络的方法,其特征在于:采用伪逆学习算法训练稀疏自编码器。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京师范大学,未经北京师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710748527.6/,转载请声明来源钻瓜专利网。