[发明专利]一种数据处理方法、装置、设备以及可读存储介质在审

专利信息
申请号: 202111672198.4 申请日: 2021-12-31
公开(公告)号: CN116432718A 公开(公告)日: 2023-07-14
发明(设计)人: 高迪 申请(专利权)人: 哲库科技(上海)有限公司
主分类号: G06N3/063 分类号: G06N3/063;G06F15/78;G06F13/28
代理公司: 北京派特恩知识产权代理有限公司 11270 代理人: 陈宇;浦彩华
地址: 200120 上海市浦东新区自由贸易试*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据处理 方法 装置 设备 以及 可读 存储 介质
【说明书】:

本申请实施例公开了一种数据处理方法、装置、设备以及可读存储介质,该方法包括:获取待处理数据以及算子信息;若所述算子信息表征第一类算子,则在所述待处理数据对应的两组输入特征数据全部来自于DMA模块外部的情况下,利用所述第一类算子对所述两组输入特征数据进行计算,将计算结果写入目标缓存区;若所述算子信息表征第二类算子,则确定所述第二类算子映射的缓存地址,将所述待处理数据按照所述缓存地址写入所述目标缓存区。这样,由于数据是在DMA模块内部处理完成之后写入目标缓存区,从而能够减少数据搬移的次数,达到降低功耗的目的。

技术领域

本申请涉及神经网络技术领域,尤其涉及一种数据处理方法、装置、设备以及可读存储介质。

背景技术

神经网络处理器(Neural network Processing Unit,NPU)已经广泛应用于各类电子设备中。NPU作为一种计算密集型处理器,需要外部提供足够高的带宽。因此,NPU通常都会内置直接存储器访问(Direct memory access,DMA)模块去获取数据,DMA的作用通常聚焦在总线读写、数据搬移、数据格式转换等,功能与NPU所处理的计算关联性不高。

在相关技术中,目前基本上都是数据由DMA模块搬移到NPU内部的缓存中,然后当NPU计算时,再从内部的缓存中读取出来,随后送入内部计算单元中进行计算处理,计算结束后再写回到缓存中。在数据搬移过程中由于读写缓存而产生了不少功耗,导致数据搬移的功耗过高。

发明内容

本申请提出一种数据处理方法、装置、设备以及可读存储介质,能够减少数据搬移的次数,达到降低功耗的目的。

本申请的技术方案是这样实现的:

第一方面,本申请实施例提供了一种数据处理方法,该方法包括:

获取待处理数据以及算子信息;

若算子信息表征第一类算子,则在待处理数据对应的两组输入特征数据全部来自于DMA模块外部的情况下,利用第一类算子对两组输入特征数据进行计算,将计算结果写入目标缓存区;

若算子信息表征第二类算子,则确定第二类算子映射的缓存地址,将待处理数据按照缓存地址写入目标缓存区。

第二方面,本申请实施例提供了一种数据处理装置,该数据处理装置包括计算融合模块,且计算融合模块包括对位计算模块和内存算子模块;其中,

对位计算模块,配置为在待处理数据对应的两组输入特征数据全部来自于DMA模块外部的情况下,利用第一类算子对两组输入特征数据进行计算,将计算结果写入目标缓存区;

内存算子模块,配置为确定第二类算子映射的缓存地址,并将待处理数据按照缓存地址写入目标缓存区。

第三方面,本申请实施例提供了一种数据处理装置,该数据处理装置包括获取单元和处理单元;其中,

获取单元,配置为获取待处理数据以及算子信息;

处理单元,配置为若算子信息表征第一类算子,则在待处理数据对应的两组输入特征数据全部来自于DMA模块外部的情况下,利用第一类算子对两组输入特征数据进行计算,将计算结果写入目标缓存区;

处理单元,还配置为若算子信息表征第二类算子,则确定第二类算子映射的缓存地址,将待处理数据按照缓存地址写入目标缓存区。

第四方面,本申请实施例提供了一种芯片,该芯片包括如第二方面或者第三方面的数据处理装置。

第五方面,本申请实施例提供了一种电子设备,该电子设备包括存储器和处理器;其中,

存储器,用于存储能够在处理器上运行的计算机程序;

处理器,用于在运行计算机程序时,执行如第一方面的方法。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哲库科技(上海)有限公司,未经哲库科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111672198.4/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top