[发明专利]神经网络拆分方法及装置、电子设备、计算机可读介质在审
申请号: | 202210392600.1 | 申请日: | 2022-04-14 |
公开(公告)号: | CN114742205A | 公开(公告)日: | 2022-07-12 |
发明(设计)人: | 吴臻志;祝夭龙 | 申请(专利权)人: | 北京灵汐科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/06 |
代理公司: | 北京天昊联合知识产权代理有限公司 11112 | 代理人: | 彭瑞欣;郑旭丽 |
地址: | 100080 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 拆分 方法 装置 电子设备 计算机 可读 介质 | ||
本公开提供了一种神经网络拆分方法,所述方法包括:根据神经网络的多个神经元的位置关系以及连接关系,将多个神经元分入多个宏分组;其中,每个宏分组包括多个神经元,同一宏分组中的神经元用于映射至一个运算单元处理,不同宏分组中的神经元用于映射至不同运算单元处理。本公开还提供了一种神经网络拆分装置、电子设备及计算机可读介质。
技术领域
本公开涉及人工智能技术领域,特别涉及一种神经网络拆分方法及装置、电子设备、计算机可读介质。
背景技术
随着技术(尤其是人工智能技术)的发展,单一的运算单元已经无法满足神经网络训练以及推理的需求。
将神经网络拆分为多个部分,每个部分在不同的运算单元上处理已经成为神经网络训练以及推理的最佳选择。
发明内容
本公开提供一种基于众核系统的神经网络拆分方法及装置、处理核、电子设备、计算机可读介质。
第一方面,本公开提供了一种神经网络拆分方法,该神经网络拆分方法包括:根据神经网络的多个神经元的位置关系以及连接关系,将多个神经元分入多个宏分组;其中,每个宏分组包括多个神经元,同一宏分组中的神经元用于映射至一个运算单元处理,不同宏分组中的神经元用于映射至不同运算单元处理。
第二方面,本公开提供了一种神经网络拆分装置,该神经网络拆分装置包括:拆分模块,用于根据神经网络的多个神经元的位置关系以及连接关系,将多个神经元分入多个宏分组;其中,每个宏分组包括多个神经元,同一宏分组中的神经元用于映射至一个运算单元处理,不同宏分组中的神经元用于映射至不同运算单元处理。
第三方面,本公开提供了一种电子设备,该电子设备包括:多个处理核;以及,片上网络,被配置为交互所述多个处理核间的数据和外部数据;其中,一个或多个所述处理核中存储有一个或多个指令,一个或多个所述指令被一个或多个所述处理核执行,以使一个或多个所述处理核能够执行上述的神经网络拆分方法。
第四方面,本公开提供了一种计算机可读介质,其上存储有计算机程序,其中,所述计算机程序在被处理核执行时实现上述的神经网络拆分方法。
本公开所提供的神经网络拆分方法及神经网络拆分装置、处理核、电子设备、计算机可读介质,根据神经网络的多个神经元的位置关系以及连接关系对神经网络进行拆分,在完成神经网络的拆分以及映射后,神经网络的各个部分之间的信息传递成本以及传递所需要的时间可以显著下降。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用来提供对本公开的进一步理解,并且构成说明书的一部分,与本公开的实施例一起用于解释本公开,并不构成对本公开的限制。通过参考附图对详细示例实施例进行描述,以上和其他特征和优点对本领域技术人员将变得更加显而易见,在附图中:
图1为本公开实施例提供的一种神经网络拆分方法的流程图;
图2为本公开实施例提供的一种神经网络拆分方法的流程图;
图3为本公开实施例提供的一种神经网络拆分方法的流程图;
图4为本公开实施例提供的一种神经网络拆分方法的部分步骤的流程图;
图5为本公开实施例提供的一种神经网络拆分方法的示意图;
图6为本公开实施例提供的一种神经网络拆分装置的组成框图;
图7为本公开实施例提供的一种电子设备的组成框图。
具体实施方式
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京灵汐科技有限公司,未经北京灵汐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210392600.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种检测键合偏移量的结构和方法
- 下一篇:一种播娘蒿种子的发芽方法