[发明专利]一种用多核处理器实现神经网络模型拆分方法及相关产品在审
申请号: | 201910910116.1 | 申请日: | 2019-09-24 |
公开(公告)号: | CN110689121A | 公开(公告)日: | 2020-01-14 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06N3/08 |
代理公司: | 44202 广州三环专利商标代理有限公司 | 代理人: | 郝传鑫;熊永强 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了一种用多核处理器实现神经网络模型拆分方法及相关产品,当神经网络模型中存在可以进行拆分的算子时,对算子进行拆分,并选择最优拆分组合获得整个神经网络模型的最优拆分结果,再由多核并行执行最优拆分结果对应的子算子,达成减少计算机设备的资源消耗的目的。 | ||
搜索关键词: | 神经网络模型 算子 多核处理器 计算机设备 多核并行 资源消耗 分组 申请 | ||
【主权项】:
1.一种用多核处理器实现神经网络模型拆分方法,其特征在于,所述方法包括:/n根据所述神经网络模型对应计算图中的目标算子,确定与所述目标算子相关联的张量数据的原始拆分状态集合;/n在所述目标算子与所述原始拆分状态集合之间插入胶水算子,调整所述目标算子的张量数据的拆分状态集合中的拆分状态,得到调整后的拆分状态集合;其中,所述胶水算子用于将张量数据按照一种拆分方式得到的子张量数据转换成按照另一种拆分方式得到的子张量数据;/n遍历所述目标算子关联的张量数据的所述拆分状态集合,确定相邻拆分状态集合之间所述目标算子的张量数据的拆分路径;/n根据所述拆分路径的权重,确定所述目标算子的张量数据的目标拆分路径;/n根据所述目标拆分路径对所述目标算子的张量数据进行拆分,以分配到多核处理器的对应核进行处理。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910910116.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种面向昆虫机器人的环路控制神经性实验系统
- 下一篇:一种存储系统和方法