[发明专利]网络映射方法、数据处理方法及装置、设备、系统和介质在审
申请号: | 202210670315.1 | 申请日: | 2022-06-14 |
公开(公告)号: | CN115080496A | 公开(公告)日: | 2022-09-20 |
发明(设计)人: | 张伟豪;沈杨书 | 申请(专利权)人: | 北京灵汐科技有限公司 |
主分类号: | G06F15/173 | 分类号: | G06F15/173;G06F15/80;G06N3/063 |
代理公司: | 北京天昊联合知识产权代理有限公司 11112 | 代理人: | 彭瑞欣;冯建基 |
地址: | 100080 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网络 映射 方法 数据处理 装置 设备 系统 介质 | ||
本公开提供了一种网络映射方法、数据处理方法及装置、设备、系统和介质,众核系统包括多个处理核,多个处理核之间通过片上网络通信连接,片上网络中设置有存储计算单元,网络映射方法包括:确定待映射的神经网络的多个算子中每个算子的运算属性值;将运算属性值小于或等于运算属性阈值的算子,映射到存储计算单元;将运算属性值大于运算属性阈值的算子,映射到众核系统中的处理核。根据本公开的实施例能够提高神经网络的计算效率。
技术领域
本公开涉及计算机处理技术领域,特别涉及一种网络映射方法、数据处理方法及装置、设备、系统和介质。
背景技术
众核架构是智能时代加速神经网络等智能算法运行的重要技术方向。一般来讲,众核架构中的每个核负责完成主要的计算功能,并通过核之间的片上网络(Network-On-Chip,NoC)交换数据。
神经网络一般由大规模的线性计算、非线性的激活函数计算、以及其它小部分但种类多样的计算组成。将神经网络映射到众核架构,以通过众核架构完成整个神经网络的计算。在通过众核架构计算神经网络时,需要提高神经网络的计算效率。
发明内容
本公开提供一种网络映射方法、数据处理方法及装置、设备、系统和介质。
第一方面,本公开提供了一种基于众核系统的网络映射方法,众核系统包括多个处理核,多个处理核之间通过片上网络通信连接,片上网络中设置有存储计算单元,该方法包括:确定待映射的神经网络的多个算子中每个算子的运算属性值;将运算属性值小于或等于运算属性阈值的算子,映射到所述存储计算单元;将所述运算属性值大于所述运算属性阈值的算子,映射到所述众核系统中的处理核。
第二方面,本公开提供了一种基于众核系统的数据处理方法,众核系统包括多个处理核,多个处理核之间通过片上网络通信连接,片上网络中设置有存储计算单元;该方法包括:响应于算子映射请求,将接收到的神经网络的多个算子中每个算子分配至众核系统中的目标处理单元;其中,为运算属性值小于或等于运算属性阈值的算子分配的目标处理单元为存储计算单元,为所述运算属性值大于所述运算属性阈值的算子分配的目标处理单元为所述众核系统中的处理核;通过所述目标处理单元执行所述运算属性值小于或等于运算属性阈值的算子;通过所述众核系统中的处理核执行所述运算属性值大于所述运算属性阈值的算子。
第三方面,本公开提供了一种基于众核系统的网络映射装置,该装置包括:属性值确定模块,用于确定待映射的神经网络的多个算子中每个算子的运算属性值;第一映射模块,用于将运算属性值小于或等于运算属性阈值的算子,映射到所述存储计算单元;第二映射模块,用于将所述运算属性值大于所述运算属性阈值的算子,映射到所述众核系统中的处理核。
第四方面,本公开提供了一种数据处理装置,该装置包括:分配模块,用于响应于算子映射请求,将接收到的神经网络的多个算子中每个算子分配至众核系统中的目标处理单元;其中,为运算属性值小于或等于运算属性阈值的算子分配的目标处理单元为存储计算单元,为所述运算属性值大于所述运算属性阈值的算子分配的目标处理单元为所述众核系统中的处理核;第一运算模块,用于通过所述目标处理单元执行所述运算属性值小于或等于运算属性阈值的算子;第二运算模块,用于通过所述众核系统中的处理核执行所述运算属性值大于所述运算属性阈值的算子。
第五方面,本公开提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的一个或多个计算机程序,一个或多个计算机程序被至少一个处理器执行,以使至少一个处理器能够执行上述的网络映射方法。
第六方面,本公开提供了一种众核系统,包括:多个处理核、片上网络和位于片上网络的多个存储计算单元;片上网络,被配置为交互多个处理核间的数据和外部数据;其中,所述处理核被配置为接收并执行运算属性值大于运算属性阈值的算子;所述存储计算单元被配置为接收并执行所述运算属性值小于或等于所述运算属性阈值的算子。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京灵汐科技有限公司,未经北京灵汐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210670315.1/2.html,转载请声明来源钻瓜专利网。