[发明专利]网络映射方法、数据处理方法及装置、设备、系统和介质在审
申请号: | 202210670315.1 | 申请日: | 2022-06-14 |
公开(公告)号: | CN115080496A | 公开(公告)日: | 2022-09-20 |
发明(设计)人: | 张伟豪;沈杨书 | 申请(专利权)人: | 北京灵汐科技有限公司 |
主分类号: | G06F15/173 | 分类号: | G06F15/173;G06F15/80;G06N3/063 |
代理公司: | 北京天昊联合知识产权代理有限公司 11112 | 代理人: | 彭瑞欣;冯建基 |
地址: | 100080 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网络 映射 方法 数据处理 装置 设备 系统 介质 | ||
1.一种基于众核系统的网络映射方法,其特征在于,所述众核系统包括多个处理核,多个所述处理核之间通过片上网络通信连接,所述片上网络中设置有存储计算单元,所述方法包括:
确定待映射的神经网络的多个算子中每个算子的运算属性值;
将运算属性值小于或等于运算属性阈值的算子,映射到所述存储计算单元;
将所述运算属性值大于所述运算属性阈值的算子,映射到所述众核系统中的处理核。
2.根据权利要求1所述的方法,其特征在于,所述多个算子中包括第一算子,所述第一算子的算力资源需求量满足第一预设阈值条件;其中,所述第一预设阈值条件包括:所述第一算子的算力资源需求量小于或等于所述众核系统中的处理核的算力资源可提供量,和/或,所述第一算子的算力资源需求量与所述神经网络的所有算子的算力资源需求量之和的比值小于或等于预定比例阈值;
所述将运算属性值小于或等于运算属性阈值的算子,映射到所述存储计算单元,包括:
将运算属性值小于或等于运算属性阈值的第一算子映射到所述存储计算单元;
所述将所述运算属性值大于所述运算属性阈值的算子,映射到所述众核系统中的处理核,包括:
将所述运算属性值大于所述运算属性阈值的第一算子,映射到所述众核系统中的处理核。
3.根据权利要求1所述的方法,其特征在于,所述多个算子中包括第二算子,所述第二算子的算力资源需求量满足第二预设阈值条件;其中,所述第二预设阈值条件包括:所述第二算子的算力资源需求量大于所述众核系统中的处理核的算力资源可提供量,和/或,所述第二算子的算力资源需求量与所述神经网络的所有算子的算力资源需求量之和的比值大于预定比例阈值;所述方法还包括:
将所述第二算子映射到所述众核系统中的多个处理核,以使相应的处理核执行所述第二算子。
4.根据权利要求3所述的方法,其特征在于,所述将运算属性值小于或等于运算属性阈值的算子,映射到所述存储计算单元,包括:
将映射到所述众核系统中的与两个相邻第二算子分别对应的处理核,作为对应的两个处理核;
将位于所述两个相邻第二算子之间,且所述运算属性值小于或等于所述运算属性阈值的第一算子,映射到对应的所述两个处理核之间路由路径上的存储计算单元;
将位于所述相邻两个第二算子之间,且所述运算属性值大于所述运算属性阈值的第一算子,映射到指定处理核;其中,所述指定处理核是在对应的所述两个处理核之间的至少一条路由路径所对应的处理核中的任一处理核。
5.根据权利要求3所述的方法,其特征在于,所述将所述运算属性值大于所述运算属性阈值的算子,映射到所述众核系统中的处理核,包括:
将所述运算属性值大于所述运算属性阈值的第一算子映射到所述众核系统中的任一处理核。
6.根据权利要求1-5中任一项所述的方法,其特征在于,
所述运算属性值包括:运算量、运算功耗和运算时长中的至少一种;
所述运算属性阈值包括:与所述运算属性值对应的运算量阈值、运算功耗阈值和运算时长阈值中的至少一种;
所述片上网络上的存储计算单元为存储器阵列;所述存储器阵列包括:电阻式随机存取存储器RRAM阵列、相变随机存储器PCRAM阵列、磁性随机存储器MRAM阵列中的至少一种。
7.一种基于众核系统的数据处理方法,其特征在于,所述众核系统包括多个处理核,多个所述处理核之间通过片上网络通信连接,所述片上网络中设置有存储计算单元;所述方法包括:
响应于算子映射请求,将接收到的神经网络的多个算子中每个算子分配至众核系统中的目标处理单元;其中,为运算属性值小于或等于运算属性阈值的算子分配的目标处理单元为存储计算单元,为所述运算属性值大于所述运算属性阈值的算子分配的目标处理单元为所述众核系统中的处理核;
通过所述存储计算单元执行所述运算属性值小于或等于运算属性阈值的算子;
通过所述众核系统中的处理核执行所述运算属性值大于所述运算属性阈值的算子。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京灵汐科技有限公司,未经北京灵汐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210670315.1/1.html,转载请声明来源钻瓜专利网。