[发明专利]一种考虑层内神经元互作用机制的人工神经网络优化方法在审
| 申请号: | 201811411158.2 | 申请日: | 2018-11-24 |
| 公开(公告)号: | CN109711531A | 公开(公告)日: | 2019-05-03 |
| 发明(设计)人: | 徐行;赵志峰;李荣鹏;张宏纲 | 申请(专利权)人: | 浙江大学 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
| 代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 刘静;邱启旺 |
| 地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 神经元 权重 人工神经网络 作用机制 星形胶质细胞 作用距离 建模 迭代过程 动态调整 间接通信 权重调整 神经网络 突触 优化 大脑 中层 主动性 参考 更新 回报 | ||
1.一种考虑层内神经元互作用机制的人工神经网络优化方法,其特征在于,该方法包括以下步骤:
(1)初始化深度神经网络参数系统参数,包括神经元的状态值,任务的完成度等;
(2)计算所有神经元的状态值被其它神经元的状态值改变量影响后的新的状态值,根据新的状态值计算每个神经元被选择的概率值;以神经元各自被选择的概率值在当前层内选出一定数量的神经元构成一个集合,集合中的神经元构成执行该任务的一个批次;
(3)集合中的神经元开始行动并获得各自行动的回报值;
(4)集合中的神经元根据步骤(3)中的回报值更新任务完成度、自身的状态值及被选择的概率值;
(5)集合中的神经元判断在步骤(2)中的先前来自于其它神经元的状态值改变量的影响方向和自身状态值的更新方向是否一致,根据判断结果更新它们之间的作用距离;
(6)集合中的神经元将自身状态值的改变量与作用权重相乘后发送给当前层内所有其他神经元,进而对其它神经元的状态值施加影响;
(7)判断任务完成度是否达到目标,是则结束,否则返回步骤(2)。
2.根据权利要求1所述的一种考虑层内神经元互作用机制的人工神经网络优化方法,其特征在于,所述步骤(2)中,以轮盘赌的方式从指定层内选出一定数量的神经元,具体数量视单层神经元的总体数量而定,且应小于单层神经元的总体数量,每个神经元被选择的概率表达式为:
其中,pi,j(t)表示在t时刻第i个神经元被选中参与到第j个任务的概率,该任务等于当前深度神经网络要训练完成的任务;sj(t)表示在t时刻第j个任务的完成程度,初始值为0,且随着任务的进行最终达到1;θi,j(t)表示在t时刻第i个神经元对于第j个任务的状态值;表示在t时刻第i个神经元对于第j个任务的启发式因子的值,该值用来描述第i个神经元对于第j个任务的状态值θi,j(t)以外的状况;在表达式中,n表示幂指数;α和β均为权重因子,用来表示θi,j(t)和的相对重要程度。
3.根据权利要求2所述的一种考虑层内神经元互作用机制的人工神经网络优化方法,其特征在于,所述步骤(4)中,根据步骤(3)中的回报值对任务完成度sj(t)进行更新,更新公式如下:
sj(t)=Rj(t)/Tj
其中,Si(t-1)表示在t-1时刻参与到第j个任务的神经元集合,rm,j(t-1)表示在t-1时刻参与任务的第m个神经元在第j个任务中获得的回报值,该回报值可以代表第m个神经元完成第j个任务的效用值;Rj(t)表示在t时刻对于第j个任务的累计回报值;Tj表示对于第j个任务的期望回报值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811411158.2/1.html,转载请声明来源钻瓜专利网。





