[发明专利]神经网络权重离散化方法和系统有效
申请号: | 201710530149.4 | 申请日: | 2017-07-03 |
公开(公告)号: | CN109214502B | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 李国齐;邓磊;吴臻志;裴京 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 北京华进京联知识产权代理有限公司 11606 | 代理人: | 哈达 |
地址: | 100084*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种神经网络权重离散化方法和系统,所述方法包括:获取权重取值范围和离散权重状态个数;获取上一个时间步权重状态和当前时间步权重增量;根据所述当前时间步权重增量,利用方向函数,获取状态转移方向;根据所述上一个时间步权重状态、所述当前时间步权重增量、所述状态转移方向、所述权重取值范围、所述离散权重状态个数,获取当前时间步权重状态。本发明确保权重值始终约束在同一个离散态空间中,而不需要存储额外的虚拟连续态隐含权重,在保证神经网络的计算性能的前提下,大大减小存储空间的消耗并降低计算复杂度。 | ||
搜索关键词: | 神经网络 权重 离散 方法 系统 | ||
【主权项】:
1.一种神经网络权重离散化方法,其特征在于,所述方法包括:获取权重取值范围和离散权重状态个数,所述权重取值范围是指由当前时间步最大权重值和当前时间步最小权重值组成的离散权重取值范围,所述离散权重状态个数是指离散权重的状态的个数;获取上一个时间步权重状态和当前时间步权重增量;根据所述当前时间步权重增量,利用方向函数,获取状态转移方向;根据所述上一个时间步权重状态、所述当前时间步权重增量、所述状态转移方向、所述权重取值范围、所述离散权重状态个数,获取当前时间步权重状态。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710530149.4/,转载请声明来源钻瓜专利网。