[发明专利]数据处理方法、调度器、处理器、芯片、电子设备在审
申请号: | 202210345776.1 | 申请日: | 2022-03-31 |
公开(公告)号: | CN114936041A | 公开(公告)日: | 2022-08-23 |
发明(设计)人: | 冷祥纶;周琳;张国栋;占惠花 | 申请(专利权)人: | 上海阵量智能科技有限公司 |
主分类号: | G06F9/38 | 分类号: | G06F9/38;G06F9/48 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 王茹 |
地址: | 200235 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 调度 处理器 芯片 电子设备 | ||
1.一种处理器,其特征在于,所述处理器包括:
第一获取单元,用于获取多个算子之间的依赖关系;
生成单元,用于基于所述多个算子之间的依赖关系为所述多个算子中的每个算子生成启动命令,一个算子的启动命令中包括用于标识所述算子被分配到的命令流的流标识信息以及用于标识所述算子所依赖的其他算子的算子标识信息;
第一发送单元,用于将所述多个算子的启动命令发送至调度器,以使所述调度器基于所述多个算子的启动命令确定所述多个算子中每个算子被调度到的执行单元的信息,被调度到不同的执行单元的算子可并行执行。
2.根据权利要求1所述的处理器,其特征在于,所述发送单元用于:
将所述多个算子中每个算子的启动命令封装成命令包,所述流标识信息和所述算子标识信息包括在所述命令包的包身中。
3.根据权利要求1或2所述的处理器,其特征在于,所述处理器还包括:
第二获取单元,用于获取所述多个算子中的每个算子的执行信息;
第二发送单元,用于将所述多个算子的执行信息发送至所述调度器,以使所述调度器基于所述多个算子的启动命令和所述多个算子的执行信息,确定所述多个算子中每个算子被调度到的执行单元的信息。
4.根据权利要求3所述的处理器,其特征在于,一个算子的执行信息包括所述算子的执行时长和/或所述算子被执行时所需的算力。
5.根据权利要求1至4任意一项所述的处理器,其特征在于,被分配到同一个命令流,且不存在依赖关系的至少两个算子被调度到不同的执行单元。
6.根据权利要求1至5任意一项所述的处理器,其特征在于,所述第一获取单元用于:
对预先生成的有向无环图进行解析,得到所述多个算子之间的依赖关系,所述有向无环图的每个节点表征一个算子,所述有向无环图的每条边表示算子之间的依赖关系。
7.根据权利要求1至6任意一项所述的处理器,其特征在于,所述多个算子中不存在依赖关系的至少两个算子被分配到同一个命令流。
8.一种调度器,其特征在于,所述调度器包括:
第三获取单元,用于获取处理器发送的多个算子中每个算子的启动命令,一个启动命令中包括用于标识所述算子被分配到的命令流的流标识信息以及用于标识所述算子所依赖的其他算子的算子标识信息;
确定单元,用于基于所述启动命令确定所述多个算子中每个算子被调度到的执行单元的信息。
9.根据权利要求8所述的调度器,其特征在于,所述调度器还包括:
第四获取单元,用于获取所述处理器发送的所述多个算子中的每个算子的执行信息;
所述确定单元用于:
基于所述多个算子的启动命令和所述多个算子的执行信息,确定所述多个算子中每个算子被调度到的执行单元的信息。
10.根据权利要求9所述的调度器,其特征在于,一个算子的执行信息包括所述算子的执行时长和/或所述算子被执行时所需的算力。
11.根据权利要求8至10任意一项所述的调度器,其特征在于,被分配到同一个命令流,且不存在依赖关系的至少两个算子被调度到不同的执行单元。
12.根据权利要求8至11任意一项所述的调度器,其特征在于,所述多个算子中不存在依赖关系的至少两个算子被分配到同一个命令流。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海阵量智能科技有限公司,未经上海阵量智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210345776.1/1.html,转载请声明来源钻瓜专利网。