[发明专利]映射的方法、电子设备、计算机可读存储介质在审
申请号: | 202210486838.0 | 申请日: | 2022-05-06 |
公开(公告)号: | CN114860443A | 公开(公告)日: | 2022-08-05 |
发明(设计)人: | 张伟豪;沈杨书 | 申请(专利权)人: | 北京灵汐科技有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京天昊联合知识产权代理有限公司 11112 | 代理人: | 彭瑞欣;郑旭丽 |
地址: | 100080 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 映射 方法 电子设备 计算机 可读 存储 介质 | ||
本公开提供了一种映射的方法,该方法包括:根据待映射的目标算法构建具有多个节点的计算图;将所述计算图中的节点映射至处理单元中;其中,每个所述节点与至少一个其它节点连接,并具有输入和输出;所述节点包括运算节点、控制节点、切换节点;每个所述运算节点用于对来自其输入的输入数据进行子运算,以在其输出产生输出数据;每个所述控制节点用于对来自其输入的输入数据进行逻辑运算,以在其输出产生控制指令;每个所述切换节点与至少一个控制节点连接,用于根据来自其所连接的控制节点的控制指令,控制其输入与输出的连接关系。本公开还提供了一种电子设备、计算机可读存储介质。
技术领域
本公开涉及计算图映射技术领域,特别涉及映射的方法、电子设备、计算机可读存储介质。
背景技术
为提高运行效率,可将需要进行的整体运算(用于实现一定功能的运算,如语音识别、图像处理等)的不同部分映射(或者说分配)到不同的处理单元中运行。例如,可将一个神经网络中的不同神经元或不同层,映射到众核系统的不同处理核中分别运行。
为实现映射,先要构建“计算图”,计算图中用多个节点和节点间的连接表示整体运算的逻辑过程,每个节点表示整体运算中的部分子运算,而连接表示节点间的数据(Token)流动,如一个节点的输出与另一个节点的输入连接,表示在前节点的输出数据作为在后节点的输入数据(例如是一个神经元的运算结果作为另一个神经元的运算依据)。得到计算图后,可根据计算图将其中的各节点映射至相应处理单元中。
随着技术的发展,越来越多的运算中包括“控制流”,即对于不同的输入实际进行的运算过程可能不同,例如判断、循环等过程均属于控制流。而相关技术中,很简单的控制流就会导致计算图的复杂性大大增加(控制爆炸),这会给计算图的构建、理解造成很大困难,且会导致根据这样的计算图的映射结果不合理,无法充分利用各处理单元的算力,并增加不同处理单元之间要传输的数据量。
发明内容
本公开提供一种映射的方法、电子设备、计算机可读存储介质。
第一方面,本公开实施例提供一种映射的方法,其包括:
根据待映射的目标算法构建具有多个节点的计算图;
将所述计算图中的节点映射至处理单元中;
其中,每个所述节点与至少一个其它节点连接,并具有输入和输出;所述节点包括运算节点、控制节点、切换节点;每个所述运算节点用于对来自其输入的输入数据进行子运算,以在其输出产生输出数据;每个所述控制节点用于对来自其输入的输入数据进行逻辑运算,以在其输出产生控制指令;每个所述切换节点与至少一个控制节点连接,用于根据来自其所连接的控制节点的控制指令,控制其输入与输出的连接关系。
在一些实施例中,所述节点还包括连接节点;
每个所述连接节点包括数量不等的连接和输入,其中每个输入与至少一个输出连接,每个输出与至少一个输入连接。
在一些实施例中,在所述将所述计算图中的节点映射至处理单元中之前,所述方法还包括以下至少一项:
将两个直接相连的切换节点合并为一个切换节点;
将一个切换节点拆分为两个直接相连的切换节点。
在一些实施例中,在所述将所述计算图中的节点映射至处理单元中之前,所述方法还包括以下至少一项:
将两个与相同切换节点连接的控制节点合并为一个控制节点;
将一个控制节点拆分为两个与相同切换节点连接的控制节点。
在一些实施例中,所述将所述计算图中的节点映射至处理单元中,包括:
将所述计算图中的节点映射至众核系统的处理核中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京灵汐科技有限公司,未经北京灵汐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210486838.0/2.html,转载请声明来源钻瓜专利网。