[发明专利]基于神经网络计算的方法和装置有效
申请号: | 202010019645.5 | 申请日: | 2020-01-08 |
公开(公告)号: | CN111259675B | 公开(公告)日: | 2023-09-19 |
发明(设计)人: | 刘托 | 申请(专利权)人: | 北京小米松果电子有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06N3/0442 |
代理公司: | 北京钲霖知识产权代理有限公司 11722 | 代理人: | 李英艳;李志新 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 神经网络 计算 方法 装置 | ||
1.一种基于神经网络计算的方法,其特征在于,应用于语音翻译,包括:
对预设神经网络模型进行解析,基于语音翻译时节点之间的时序关系和上下文关系,得到所述预设神经网络模型的网络结构中节点之间的依赖关系;
根据所述依赖关系,确定至少一个目标隐藏层节点,目标隐藏节点包括时序在前的被依赖节点,或上文的被依赖节点;
为每个所述目标隐藏层节点配置对应的状态缓存张量;
基于语音翻译时隐藏层节点运算结果确定隐藏层状态;
在通过所述预设神经网络模型进行语音翻译时,将每个所述目标隐藏层节点的隐藏层状态保存至对应的状态缓存张量中;
通过与所述目标隐藏层节点存在依赖关系的其他节点,从所述对应的状态缓存张量中读取所述隐藏层状态。
2.根据权利要求1所述的方法,其特征在于,所述根据所述依赖关系,确定至少一个目标隐藏层节点,包括:
根据节点之间的依赖关系,确定依赖节点,以及所述依赖节点所依赖的被依赖节点;
在所述被依赖节点中,确定时序先于所述依赖节点时序的至少一个被依赖节点;
将所述至少一个被依赖节点作为目标隐藏层节点。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
确定每个依赖节点需要依赖的目标隐藏层节点,以及每个所述依赖节点所依赖的目标隐藏层节点的目标时刻;
所述将每个所述目标隐藏层节点的隐藏层状态保存至对应的状态缓存张量中,包括:
将所述每个目标隐藏层节点的目标时刻的目标隐藏层状态保存至对应的状态缓存张量中。
4.根据权利要求1至3中任一项所述的方法,其特征在于,在为每个所述目标隐藏层节点配置对应的状态缓存张量之后,还包括:
根据所述预设神经网络模型的网络结构和节点之间的依赖关系,计算每个所述状态缓存张量的更新时间、缓存机制中的至少一项;
根据每个状态缓存张量的更新时间更新状态缓存张量中的状态;
根据每个状态缓存张量的缓存机制为所述每个状态缓存张量分配存储空间。
5.一种基于神经网络计算的装置,其特征在于,应用于语音翻译,包括:
解析单元,用于对预设神经网络模型进行解析,基于语音翻译时节点之间的时序关系和上下文关系,得到所述预设神经网络模型的网络结构中节点之间的依赖关系;
第一确定单元,用于根据所述依赖关系,确定至少一个目标隐藏层节点,目标隐藏节点包括时序在前的被依赖节点,或上文的被依赖节点;
缓存配置单元,用于为每个所述目标隐藏层节点配置对应的状态缓存张量;
保存单元,用于基于语音翻译时隐藏层节点运算结果确定隐藏层状态;
所述保存单元,还用于在通过所述预设神经网络模型进行语音翻译时,将每个所述目标隐藏层节点的隐藏层状态保存至对应的状态缓存张量中;
读取单元,用于通过与所述目标隐藏层节点存在依赖关系的其他节点,从所述对应的状态缓存张量中读取所述隐藏层状态。
6.根据权利要求5所述的装置,其特征在于,所述第一确定单元用于采用如下方式根据所述依赖关系,确定至少一个目标隐藏层节点:
根据节点之间的依赖关系,确定依赖节点,以及所述依赖节点所依赖的被依赖节点;
在所述被依赖节点中,确定时序先于所述依赖节点时序的至少一个被依赖节点;
将所述至少一个被依赖节点作为目标隐藏层节点。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
第二确定单元,确定每个依赖节点需要依赖的目标隐藏层节点,以及每个所述依赖节点所依赖的目标隐藏层节点的目标时刻;
所述保存单元用于:
将所述每个目标隐藏层节点的目标时刻的目标隐藏层状态保存至对应的状态缓存张量中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京小米松果电子有限公司,未经北京小米松果电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010019645.5/1.html,转载请声明来源钻瓜专利网。