[发明专利]脉冲神经网络训练方法、装置以及终端在审
申请号: | 202211304460.4 | 申请日: | 2022-10-24 |
公开(公告)号: | CN115618923A | 公开(公告)日: | 2023-01-17 |
发明(设计)人: | 陈旭;陈克林;杨军民;梁龙飞 | 申请(专利权)人: | 上海新氦类脑智能科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 上海光华专利事务所(普通合伙) 31219 | 代理人: | 倪静 |
地址: | 200090 上海市杨浦区长阳*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 脉冲 神经网络 训练 方法 装置 以及 终端 | ||
1.一种脉冲神经网络训练方法,其特征在于,包括:
基于脉冲神经网络,根据输入实值计算对应的输出脉冲编码;
对所述输出脉冲编码进行脉冲解码,以获得输出实值;
基于误差函数,根据所述输出实值与所述输入实值所对应的数据标签计算当前网络计算误差,以供在未达到目标精度的情况下更新所述脉冲神经网络的网络参数。
2.根据权利要求1中所述的脉冲神经网络训练方法,其特征在于,所述脉冲神经网络采用优化的LIF神经元模型;
其中,所述优化的LIF神经元模型计算方式包括:在所述LIF模型中Leaky-Integrate计算与Fire计算之间均插入批归一化计算。
3.根据权利要求2中所述的脉冲神经网络训练方法,其特征在于,所述批归一化计算采用的β参数βspike为:
βspike=β+th;
其中,β为传统归一化计算采用的β参数,th为神经元电压阈值。
4.根据权利要求3中所述的脉冲神经网络训练方法,其特征在于,所述神经元模型的每一计算层的电压衰减参数以及神经元电压阈值均为可学习参数。
5.根据权利要求1中所述的脉冲神经网络训练方法,其特征在于,对所述脉冲进行脉冲解码包括:
基于加权相加法,将脉冲在时间维度上基于不同的权值进行加权;其中,各权值为可学习参数;
在回归类问题中,加权后的脉冲额外经过可学习的ANN网络结构得到符合回归函数的实值映射。
6.一种脉冲神经网络训练装置,其特征在于,所述装置包括:
脉冲计算模块,基于脉冲神经网络,根据输入实值计算对应的输出脉冲编码;
脉冲解码模块,连接所述脉冲计算模块,用于对所述输出脉冲编码进行脉冲解码,以获得输出实值;
误差计算模块,连接所述脉冲解码模块,用于基于误差函数,根据所述输出实值与所述输入实值所对应的数据标签计算当前网络计算误差,以供在未达到目标精度的情况下更新所述脉冲神经网络的网络参数。
7.一种脉冲神经网络训练终端,其特征在于,包括:一或多个存储器及一或多个处理器;
所述一或多个存储器,用于存储计算机程序;
所述一或多个处理器,连接所述存储器,用于运行所述计算机程序以执行如权利要求1至5中的任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海新氦类脑智能科技有限公司,未经上海新氦类脑智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211304460.4/1.html,转载请声明来源钻瓜专利网。