[发明专利]基于神经网络的操作方法、装置及电子设备在审
| 申请号: | 201810804319.8 | 申请日: | 2018-07-20 |
| 公开(公告)号: | CN110738316A | 公开(公告)日: | 2020-01-31 |
| 发明(设计)人: | 朱韫晖;左耀华;范国平;刘子坤 | 申请(专利权)人: | 北京三星通信技术研究有限公司;三星电子株式会社 |
| 主分类号: | G06N3/063 | 分类号: | G06N3/063 |
| 代理公司: | 11330 北京市立方律师事务所 | 代理人: | 张筱宁 |
| 地址: | 100028 北京市朝*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 神经网络处理器 控制存储器 处理引擎 带宽信息 单元阵列 调度策略 装置及电子设备 降低功耗 神经网络 申请 带宽 调度 | ||
1.一种基于神经网络的操作方法,其特征在于,执行所述神经网络的神经网络处理器包括存储器、以及由至少一个处理引擎单元组成的处理引擎单元阵列;所述方法包括:
确定神经网络处理器的带宽信息;
根据所述带宽信息,确定相应的调度策略;
根据所述调度策略,控制存储器以及处理引擎单元阵列执行相应操作。
2.根据权利要求1所述的操作方法,其特征在于,还包括:
确定神经网络的计算参数;
所述根据所述带宽信息,确定相应的调度策略,包括:
根据神经网络的计算参数以及带宽信息,确定相应的调度策略。
3.根据权利要求2所述的操作方法,其特征在于,所述根据神经网络的计算参数以及带宽信息,确定相应的调度策略,包括以下任一项:
根据神经网络的计算参数以及带宽信息,通过预建立的深度学习模型,确定相应的调度策略;
根据神经网络的计算参数以及带宽信息,基于预设的调度策略库,确定相应的调度策略;
根据神经网络的计算参数,确定各个调度策略对应的数据存取量,并根据带宽信息以及确定得到的各个调度策略对应的数据存取量,确定相应的调度策略;
根据神经网络的计算参数以及带宽信息,确定各个调度策略对应的耗时,并根据确定得到的各个调度策略对应的耗时,确定相应的调度策略。
4.根据权利要求3所述的操作方法,其特征在于,所述确定得到的数据存取量包括以下至少一项:
存储器从外部存储设备读取的特征图输入数据量;
存储器从外部存储设备读取的卷积核数据量;
存储器输出到外部存储设备的特征图输出数据量;
所述根据带宽信息以及确定得到的各个调度策略对应的数据存取量,确定相应的调度策略,包括:
当带宽信息小于或等于第一阈值时,将特征图输入数据量小于或等于第二阈值的调度策略,确定为相应的调度策略;
当带宽信息大于或等于第三阈值时,将特征图输入数据量和卷积核数据量的总量或特征图输入数据量、卷积核数据量和特征图输出数据量的总量小于或等于第四阈值的调度策略,确定为相应的调度策略。
5.根据权利要求3所述的操作方法,其特征在于,根据神经网络的计算参数以及带宽信息,确定各个调度策略对应的耗时,包括:
根据神经网络的计算参数,确定各个调度策略对应的数据存取量;
根据带宽信息以及确定得到的数据存取量,确定各个调度策略对应的耗时。
6.根据权利要求3或5所述的操作方法,其特征在于,所述确定得到的耗时包括以下至少一项:
存储器从外部存储设备读取特征图输入数据的耗时;
存储器从外部存储设备读取卷积核数据的耗时;
存储器将特征图输出数据量输出到外部存储设备的耗时;
所述根据确定得到的各个调度策略对应的耗时,确定相应的调度策略,包括:
确定各个调度策略对应的读取特征图输入数据的耗时与读取卷积核数据的耗时两项中的较大值;
将各个调度策略对应的较大值中数值最小的较大值对应的调度策略,确定为相应的调度策略。
7.根据权利要求2-6任一项所述的操作方法,其特征在于,神经网络的计算参数,包括以下至少一项:运算操作类型、运算量化精度、输入特征图参数、卷积核参数及输出特征图参数;
其中,输入特征图参数,包括以下至少一项:输入特征图的宽度、高度、通道数量、批次大小;
卷积核参数,包括以下至少一项:卷积核的宽度、高度、通道数量、个数、卷积横向步长和纵向步长、分组数量、膨胀率;
输出特征图参数包括以下至少一项:输出特征图的宽度、高度、通道数量、批次大小。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三星通信技术研究有限公司;三星电子株式会社,未经北京三星通信技术研究有限公司;三星电子株式会社许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810804319.8/1.html,转载请声明来源钻瓜专利网。





